utf8编码转换脚本

差不多去年的这个时候吧,由于项目组的编码从GBK转向UTF-8,让我来负责转换所有的源文件,当时frank给了我一个转换的脚本,可以过滤文件类型来转换,由于是frank自己使用的工具,所以也没怎么注意容错,基本上可以理解成是对某些类型的文件使用iconv -f gbk -t utf-8 这样的命令来转换。后来发现悲剧了,原因是有一些文件已经是utf-8编码了,结果在强转了一次,就乱码了,因为只有几个文件乱码,所以一开始还没注意到,直到后来发现的时候,又得一个一个重新转回去,所以还是挺麻烦的。
最近在用一个公共组件的时候,发现其提供的都是gbk编码的,所以想着干脆还是写一个脚本来完成这件事情吧,这次吸取了上次的教训,首先会用file来判断下文件的编码是什么编码的(当前只判断gbk和utf-8),然后根据不同的类型,来设置不同的转换选项。默认只转换当前文件夹下的所有.cpp和.h文件,当然,路径和文件类型,可以分别用-f和-t的参数传进去。当然,如果你发现有什么没有考虑到的地方,还请斧正,谢谢啦。

#!/bin/bash


file_type_list="cpp h"
file_path="."

#-f:文件名或者目录名 -t: 文件类型
#如果不传入参数,默认目录为当前目录,默认转换文件类型为.h .cpp
#example:covert_to_utf8 -f . -t "cpp h"
while getopts "t:f:" arg #选项后面的冒号表示该选项需要参数
do
case $arg in
f)
echo "f's arg:$OPTARG"
file_path=$OPTARG
;;
t)
echo "t's arg:$OPTARG" 
file_type_list=$OPTARG
;;
?)
echo "unkonw argument"
exit 1
;;
esac
done

echo "file_type=" $file_type_list "file_path=" $file_path 


#如果是普通文件或者目录才进行查找、转换,其他情况,不转换
if [ -f $file_path -o -d $file_path ];
then
echo "Begin to Convert $file_path from GBK to UTF-8...."
else
echo " $file isn't a file or directory,can't convert! "
exit;
fi


#找到普通文件,然后转换这些文件
all_file=`find $file_path -type f`;

for file in $all_file;
do
file_type=${file##*.} 
#echo $file $file_type;
if [[ "$file_type_list" != *"$file_type"* ]];
then
echo "$file_type not in $file_type_list"
continue;
fi

file_encoding=`file $file | awk -F : '{print $2}' | awk '{print $1}'`
#GBK
if [ $file_encoding == "ISO-8859" ];
then
original_encoding="gbk"
#ASCII or UTF-8
elif [ $file_encoding == "ASCII" -o $file_encoding == "UTF-8" ];
then
echo "$file encoding $file_encoding is ok, not need convert"
continue;
#未定义的编码
else
echo "$file error encoding $file_encoding, can't convert"
continue;
fi
iconv -f $original_encoding -t utf-8 $file > $file"_tmp"
#判断是否转换成功
if [ $? != 0 ];
then
echo "covert $file failed!"
continue;
fi
mv $file"_tmp" $file
echo "convrt $file success!"
done

echo "All file convert done!"

发表评论