如果你需要在Linux中操作windows下的文件，那么你可能会经常遇到文件编码转换的问题。Windows中默认的文件格式是GBK(gb2312)，而Linux一般都是UTF-8。下面介绍一下，在Linux中如何查看文件的编码及如何进行对文件进行编码转换。
https://github.com/gongluck/Code-snippet/tree/master/cpp/code%20conversion
上一篇呢，从理论上介绍了MYSQL字符集和校对规则是什么以及如何正确的使用字符集；关于第一部分的内容可参考：深入理解MySQL字符集及校对规则(一)
*首先要搞清楚，字符串在Python内部的表示是unicode编码，因此，在做编码转换时，通常需要以unicode作为中间编码，
原文：http://demi-panda.com/2012/12/26/vim-encoding/
字符串在Python内部的表示是unicode编码，因此，在做编码转换时，通常需要以unicode作为中间编码，即先将其他编码的字符串解码（decode）成unicode，再从unicode编码（encode）成另一种编码。
在计算机科学中，字符编码是一种将字符集合映射到数字的方案。每个字符在计算机中都是以数字的形式存储的。因此，理解字符编码的原理，我们就可以通过编码转换的方式将字符串转换为对应的数字序列。本文将探讨如何在Go语言中利用字符编码转换字符串为数字，并讨论其应用场景和潜在问题。
我们知道，计算机是以二进制为单位的，也就是说计算机只识别0和1,也就是我们平时在电脑上看到的文字，只有先变成0和1，计算机才会识别它的意思。这种数据和二进制的转换规则就是编码。计算机的发展中，有ASCII码，GBK，Unicode，utf-8编码。我们先从编码的发展史了解一下编码的进化过程。
相同点：python解释器是解释执行文件内容的，因而python解释器具备读py文件的功能，这一点与文本编辑器一样
字符串在Python内部的表示是unicode编码，因此，在做编码转换时，通常需要以unicode作为中间编码，即先将其他编码的字符串解码(decode)成unicode，再从unicode编码(encode)成另一种编码。
本文将详细介绍MySQL乱码的成因和具体的解决方案。在阅读本文之前，强烈建议对字符集编码概念还比较模糊的同学 阅读下博主之前对相关概念的一篇科普：十分钟搞清字符集和字符编码 MySQL出现乱码的原因
字符集是对特定语言中所有可读或可显示字符的称呼。例如英语、汉语、日语等都是不同的字符集。字符集决定了可以展示和表示的字符范围。在字符集中，需要使用编码字符集来实现字符的编码和转码。编码字符集使用编码值来表示字符在字库表中的位置。字库表是一个包含了所有可读或可显示字符的数据库，它决定了字符集能够展示的所有字符的范围。字符编码定义了编码字符集和实际存储数值之间的转换关系。常见的字符编码方式包括ASCII、ISO 8859-1、GB2312、GBK等。常情况下，一个字符集对应一个编码方式，比如ASCII、ISO 8859-1、GB2312、GBK等都是针对特定字符集的编码方式。
如上面代码，str\str1\str2均为字符串类型（str）,给字符串操作带来较大的复杂性。
对索引字段进行函数操作、隐式类型转换或字符编码转换都可能导致MySQL优化器放弃使用索引，从而影响查询性能。定期使用EXPLAIN命令分析SQL语句的执行计划，是提升数据库性能的有效方法。
背景：目前正在进行业务重构，需要对使用MySQL的业务库表进行重新设计，在迁移时，遇到了中文字符乱码问题（源库表的默认编码是LATIN1，新库表的默认编码为UTF8），故重新学习了下MySQL编码和解码相关知识，并整理了在遭遇乱码时的一些常用技巧。（本文发布于云+社区：https://cloud.tencent.com/developer/article/1370123）
关于编码问题前面一共整理4篇博客，这是终篇。我使用MySQL时经常会遇到乱码问题，尤其是涉及到中文和emoji表情符号时，然而当我查询资料时发现大多数资料几乎雷同，寥寥几句仅贴了几个参数的定义，并没有案例来详细说明，因此我利用几个周末时间整理出这个编码系列博客，希望能对和我同样深受编码困扰的人提供些帮助，当然能力有限，里面很多观点是我根据各种资料的推测，并没有在相关文档中找到确切的描述佐证，可能有理解偏颇之处。
为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”？本文就来研究一下这个问题。
说到多字节字符串与宽字符串，不得不说一下多字节字符与宽字符。多字节字符实际上是由多个字节来表示一个字符，在各个国家和地区采用不同的编码方案，不同编码方案字符码值是不同的，比如常见的中国大陆的GBK和GB18030、台湾同胞的Big5h，以及国际通过的UTF8编码等。宽字符指的是由统一码联盟制定的Unicode编码方案收录的字符，使用4个字节来表示一个字符。关于字符编码可参见博文精述字符编码。
字符(Character)是各种文字和符号的总称，包括各国家文字、标点符号、图形符号、数字等。 字符集(Character set)是多个字符的集合，字符集种类较多，每个字符集包含的字符个数不同，常见字符集名称：ASCII字符集、GB2312字符集、BIG5字符集、 GB18030字符集、Unicode字符集等。计算机要准确的处理各种字符集文字，需要进行字符编码，以便计算机能够识别和存储各种文字。 字符编码（Character encoding）是把字符集中的某个字符编码为指定字符集中字符，以便文本在计算机中存储和通过通信网络的传递。常见的例子包括将拉丁字母表编码成ASCII，ASCII将字母、数字和其它符号编号，并用7比特的二进制来表示。 字符序(collation)是指同一个字符集内字符之间的比较规则。只有确定字符序后，才能在一个字符集上定义什么是等价的字符，以及字符之间的大小关系。一个字符可以包含多种字符序。MySQL字符序命名规则是：以字符序对应的字符集名称开头，以国家名居中(或以general居中)，以ci、cs、或bin结尾。以ci结尾的字符序表示大小写不敏感，以cs结尾的字符序表示大小写敏感，以bin结尾的字符序表示按二进制编码值比较。
隐式转换，可以说是关系型数据库SQL优化中很隐秘的问题，之前碰到过很多和他相关的案例，
# Auther: Aaron Fan ''' ASCII:不支持中文，1个英文占1个字节 Unicode(万国码，支持所有国家的文字显示)：支持中文，但是每个英文和中文都占2个字节 UTF-8（是一种针对Unicode的可变长度字符编码，又称万国码。）： 英文依然按照ASCII的方式占1个字节，所有的中文字符统一是3个字节 Unicode里面支持各个国家的编码转换，比如当中国的gbk格式的软件在日本打开出现乱码的时候， 必须把gbk转成Unicode编码后才可以正常显示。 GBK：
json.dumps(var,ensure_ascii=False)并不能解决中文乱码的问题
以下内容转自博客：http://blog.chinaunix.net/uid-22670933-id-1771613.html。
在日常开发中PHP用的较多，很多时候有一些小的脚本要做，并不是什么大的项目，那么有一些脚手架的函数这么多年来发现常用的就那么几个，这里整理下方便共享
云端传下来的中文是Unicode编码，通过cjson把它转成了utf-8格式。这个格式在STM32上显示是乱码，需要转换成GBK才行。
python 里面的编码和解码也就是 unicode 和 str 这两种形式的相互转化。编码是 unicode -> str，相反的，解码就是 str -> unicode。剩下的问题就是确定何时需要进行编码或者解码了.关于文件开头的"编码指示"，也就是 # -- coding: -- 这个语句。Python 默认脚本文件都是 UTF-8 编码的，当文件中有非 UTF-8 编码范围内的字符的时候就要使用"编码指示"来修正. 关于 sys.defaultencoding，这个在解码没有明确指明解码方式的时候使用。 比如我有如下代码：
想必 iconv 这个扩展的相关函数大家多少都接触过，做为 PHP 的默认扩展它已经存在了很久，也是我们在操作字符编码时经常会使用的函数。不过除了 iconv() 这个函数外，你还知道它的其它函数吗？今天，我们就来学习一下 iconv 扩展中的各种好玩的函数。
网址：https://www.matools.com/code-convert-ascii
点击蓝字 关注我们 MySQL中我们知道有： 如果对索引字段做函数操作，可能会破坏索引值的有序性，因此优化器就决定放弃走树搜索功能。 隐式类型转换也会导致放弃走树搜索。 因为类型转换等价于在条件字段上使用了函数比如： 假设tradeid字段有索引，且为varchar类型：mysql> select * from tradelog where tradeid=110717;等价于：mysql> select * from tradelog where CAST(tradid AS signed int
字符集是英文,汉字或者其他语言字符的集合, 字符集种类有很多, 每个字符集包含的字符个数也不相同. 字符编码方式是用一个或多个字节表示字符集中的一个字符; 每种字符集都有自己编码方式, 因此同一个字符, 在不同字符集的编码方式下, 会产生不同的二进制值;
编码转换 一些老的项目，文件编码用的还是gbk，很不利于扩展及维护。经常需要在程序中进行判断及转码，容易出现乱码现象。最好的方式就是将整个项目转成utf-8。那么如何批量将一个目录下的文件转编码？ 思路 找出目录下的所有文件类型 遍历要转码的文件类型，如.php 利用vim的set fileencoding=utf8进行转码 具体实现 设置~/.vimrc set fileencodings=utf-8,ucs-bom,gb18030,gbk,gb2312,cp936 set termencoding=ut
我们发现查询语句索引失效了，原因在于我们在t_modified字段上使用了month函数。
encode（）：编码，将对象的编码转换为指定编码格式，按照字面理解，一直以为是其他编码格式转换成unicode格式编码
字符串编码在Python里边是经常会遇到的问题，特别是写文件以及网络传输的过程中，当调用某些函数的时候经常会遇到一些字符串编码提示错误，所以有必要弄清楚这些编码到底在搞什么鬼。
utf-8： 可变长编码，常用的英文字母被编码成1个字节，汉字通常是3个字节，只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符，用UTF-8编码就能节省空间：
！！！Java要转换字符编码：就一个String.getBytes("charsetName")解决，返回的字节数组已经是新编码的了~~至于后边是new String组装还是网络发送，就再处理了。 1 try { 2 String test = "一"; 3 System.out.println(System.getProperty("file.encoding"));// java默认编码是UTF-8 4 System
问题：在我的Linux系统中有一个编码为iso-8859-1的字幕文件，其中部分字符无法正常显示，我想把文本改为utf8编码。在Linux中,有没有一个好的工具来转换文本文件的字符编码？
问题：在我的 Linux 系统中有一个编码为 iso-8859-1 的字幕文件，其中部分字符无法正常显示，我想把文本改为 utf8 编码。在 Linux 中, 有没有一个好的工具来转换文本文件的字符编码？
当url地址含有中文，或者参数有中文的时候，这个算是很正常了，但是把这样的url作为参数传递的时候（最常见的callback），需要把一些中文甚至'/'做一下编码转换。
字符串在Python2.7内部的表示是unicode编码，因此，在做编码转换时，通常需要以unicode作为中间编码，即先将其他编码的字符串解码成unicode，再从unicode编码成另一种编码。
Windows 早期采用多字节编码，的确容易出现乱码问题。随着 Windows 全面转向 Unicode 编码，多语言的支持得到完美解决，出现中文乱码的问题就很少出现。出现乱码问题一般是 GBK 编码的文件当做 utf8 编码打开，或者 utf8编码的文件当做 GBK 编码打开。这种情况也多出现在 Linux 和 Windows 之间交换文件。
一、字符串与bytes str是文本系列，有编码，bytes是字节系列，没有编码，文本的编码是字符如何用字节来表示。都不可变，python3默认使用utf8。 文本转换编码：s.encode(['编码方式']) 编码转换文本：s.decode(['编码方式']) 1、定义： 由str通过encode转换而来 通过b前缀定义 2、操作 除了了encode为，str的操作都有对应的bytes版本，但是参数必须也是bytes。 b.hex() #转化为16进制、 二、bytearray可变的,所以多了许多修改方法。可以索引操作。参数必须是int。并且int必须在0-256之间。即8位无符号整数。
比如一款游戏《大话西游》用的是gbk编码开发的。出口到欧美国家，是无法直接运行的。
#!/bin/bash # gb2312 转 utf8 编码 # 开发 ： 小绿叶技术博客 eisc.cn # date : 2023.2.27 dir="./" ; echo "当前目录： $dir" sudo chmod 777 -R $dir/* # FileList=(`du -ah $dir | awk -F" " '{print $2}'`) # find ./ -type f | xargs dos2unix # 列出所有文件和目录 # xargs 作用是将管道前面的结果内容(
实际测试过程中发现，SoapUI提交后的数据，在数据库中查看数据值存储，发现是乱码，如下图：
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
