#include<stdio.h>
#include<string.h>
char  jiemi(char  a[])//吧所有字母都向前移动5位，得出明文
{
  int i=0;
  while(a[i]!='\0')
  {
      if(a[i]==','||a[i]==' ')
      {
            i++;
      }
      else
      {
         a[i]=a[i]-5;
         i++;
      }
  }
   return 0;
}
int main()//遇到start开始输入数据，遇到end 打印数据
遇到 ENDINPUT 程序结束
{
    char a[201]={0};
    char c[11]={0};
    char str1[6]="start";
    char str2[4]="end";
    char str3[11]="ENDOINPUT";
    while(1)
    {
     scanf("%s",c);//c start
     if(strcmp(c,str1)==0)
     {
         scanf("%s",a);
         jiemi(a);
     }
     scanf("%s",c);//b end
     if(strcmp(c,str2)==0)
     {
         printf("%s",a);
     }
     scanf("%s",c);
     if(strcmp(c,str3)==0)
     {
       break;
     }
    }
     return 0;
}

不过运行的时候没出结果

把函数return 0改为return a试试

cannot convert from 'char []' to 'char'

可以了
是scanf的问题
输入的是字符串
不过a代表的是首地址，不足以存放字符串要一个个输入
换成gets（a）；
就可以了