Python常用的编码格式有3种:unicode,utf-8,gbk 有些时候因为某些需要,就例如我们用的是utf-8的编码格式编写的脚本,需要在Windows终端中运行,而Windows终端默认的编码格式是...GBK,这时候我们就要把编码转换一下格式 我们先来看一下这3种编码格式的关系 ?...由图中得知,unicode转换成GBK或者utf-8需要编码,而utf-8和GBK转换成unicode就要解码,那么,utf-8和GBK就可以通过这个方式来转换了 #!.../usr/bin/env python #-*- coding:utf-8 -*- temp = "小明" # utf-8 # 解码,需要指定原来是什么编码(括号里面的) temp_unicode =...Python 2.几 的版本编码转换方法 在Python3里面,已经没有unicode类型,因为在Python3里面,unicode类型的编码它自动给你转换成utf-8或者gbk,所以utf-8可以直接编码成
#-*- coding: utf-8 -*- import sys print sys.getfilesystemencoding() # s 是 utf8 编码..." # 用decode转成python内部的unicode编码,用repr输出内部形式 s_unicode = s.decode("utf8") print repr(s_unicode...) # 用ecode转成gbk编码输出 s_gbk = s_unicode.encode("gbk") print s_gbk # 用ecode转成标准的...uincode编码 \u****\u**** s_unicode_output = s_unicode.encode("unicode_escape") print s_unicode_output...# 从标准的unicode编码转成 gbk 编码 s_red_gbk = s_unicode_output.decode("unicode_escape").encode("gbk
Python 2.6.6 (r266:84292, Jul 23 2015, 15:22:56) [GCC 4.4.7 20120313 (Red Hat 4.4.7-11)] on linux2 Type...chardet.detect(a) Traceback (most recent call last): File "", line 1, in File "/usr/lib/python2.6.../site-packages/chardet/__init__.py", line 30, in detect u.feed(aBuf) File "/usr/lib/python2.6/site-packages.../site-packages/chardet/__init__.py", line 30, in detect u.feed(aBuf) File "/usr/lib/python2.6/site-packages...'ascii')) Traceback (most recent call last): File "", line 1, in File "/usr/lib/python2.6
.net/strings.html 需知: 1.在python2默认编码是ASCII, python3里默认是unicode 2.unicode 分为 utf-32(占4个字节),utf-16(占两个字节...类型 那么encode("gbk"),不光是转换了编码,还转换成了二进制数据 查看gbk和utf-8的区别 import sys #打印默认编码 print(sys.getdefaultencoding...上面的大图显示 gbk转换为utf8,需要2步 1.首先通过编码【decode】转换为unicode编码 2.然后通过解码【encode】转换为utf-8的编码 总结: 不同编码之间的转换,必须要先转换为...先执行decode()方法,传一个参数,告诉它,我是什么编码。 最后执行encode()方法,传一个参数,将要转换的编码是什么。...以下代码表示,声明文件编码为 # coding: gbk 在python 里面,默认声明的变量是utf-8 # coding: gbk import sys #打印默认编码 print(sys.getdefaultencoding
但是添加到list里面是中文的情况(比如‘丽江’),url的地址编码却是'%E4%B8%BD%E6%B1%9F',因此需 要做一个转换。这里我们就用到了模块urllib。...print urllib.unquote('%E4%B8%BD%E6%B1%9F') 丽江 细心的同学会发现贴吧url中出现的是%C0%F6%BD%AD,而非'%E4%B8%BD%E6%B1%9F',其实是编码问题.../usr/bin/python import urllib import sys string = sys.argv[1] string = unicode(string,"gbk") utf8_string
没有什么编码是不能转的 import hashlib import base64 # string to md5 input_text = "我能吞下玻璃而不伤身体" md5_string = hashlib.md5...e68891e883bde5909ee4b88be78ebbe79283e8808ce4b88de4bca4e8baabe4bd93 # hex to string text = bytes.fromhex(hex_str).decode() # 我能吞下玻璃而不伤身体 ipv4字符串与数字转换
麻烦的是505认得最好的编码方式为utf-8,如果是unicode,当文件大于5M时就容易出现问题。所以许多大的txt文档都要转换成utf-8....手动转换很麻烦,特别是大的文件,打开就要等一段时间,然后还要转码。所以就想到用刚学的Python去做一个小工具,以后方便处理这些书。...该工具带GUI界面,经测试能够成功的把ANSI格式txt文件转换为utf8。
Python 编码转换与中文处理 python 中的 unicode是让人很困惑、比较难以理解的问题. utf-8是unicode的一种实现方式,unicode、gbk、gb2312是编码字符集. decode...是将普通字符串按照参数中的编码格式进行解析,然后生成对应的unicode对象 写python时遇到的中文编码问题: ➜ /test sudo vim test.py #!.../usr/bin/python #-*- coding:utf-8 -*- import sys reload(sys) # Python2.5 初始化后会删除 sys.setdefaultencoding...这是一个抓取网页代码的python脚本 ➜ /test sudo cat file.py #!...查看网页源代码发现charset=GBK的类型所以python中要进行类型转换 ➜ /test sudo cat file.py #!
今天修改一个天气预报的东西,但输入城市不能得到天气预报,感觉是编码不对,因为你输入一个城市(比如‘杭州’),url的地址编码却是'%E4%B8%BD%E6%B1%9F',因此需 要做一个转换。...print urllib.unquote('%E6%9D%AD%E5%B7%9E') 杭州 细心的同学会发现贴吧url中出现的是%C0%F6%BD%AD,而非'%E4%B8%BD%E6%B1%9F',其实是编码问题.../usr/bin/python import urllib import sys string = sys.argv[1] string = unicode(string,"gbk") utf8_string
py文件中的编码 Python 默认脚本文件都是 ANSCII 编码的,当文件 中有非 ANSCII 编码范围内的字符的时候就要使用"编码指示"来修正一个 module 的定义中,如果.py文件中包含中文字符.../peps/pep-0263.html for details python中的编码与解码 先说一下python中的字符串类型,在python中有两种字符串类型,分别是 str 和 unicode...也就是说在读取一个文件的内容,或者从网络上读取到内容时,保持的对象为str类型;如果想把一个str转换成特定编码类型,需要把str转为Unicode,然后从unicode转为特定的编码类型如:utf-8...python 编码转换函数 unicode 转为 gb2312,utf-8等,使用 encode(encoding) # -*- coding=UTF-8 -*- if __name__ == '__...更进一步的例子,如果我们这里转换仍然用gbk: # coding=utf-8 s = "中文" print unicode(s, "gbk") 结果:中文 翻阅了一篇英文资料,它大致讲解了python
decode()方法使用注册编码的编解码器的字符串进行解码。它默认为默认的字符串编码。decode函数可以将一个普通字符串转换为unicode对象。...decode是将普通字符串按照参数中的编码格式进行解析,然后生成对应的unicode对象,比如在这里我们代码用的是utf-8,那么把一个字符串转换为unicode就是如下形式:s2=’哈’.decode...encode()方法正好就是相反的功能,是将一个unicode对象转换为参数中编码格式的普通字符,encode正好就是相反的功能,是将一个unicode对象转换为参数中编码格式的普通字符。...# 将unicode编码转换为汉字,前边带u的 str = u'\u4eac\u4e1c\u653e\u517b\u7684\u722c\u866b' print(str.encode('utf-8')...u4e1c\u653e\u517b\u7684\u722c\u866b', ) print('--------------------------') # 将unicode编码转换为汉字
json是用来转换python object 和json format 的,字符编码有gb2312,gb18030/gbk,utf-8等。...在 Python 中出现的 str 都是用字符集编码的 ansi 字符串。Python 本身并不知道 str 的编码,需要由开发者指定正确的字符集 decode。...因为 Python 认为 16 位的 unicode 才是字符的唯一内码,而大家常用的字符集如 gb2312,gb18030/gbk,utf-8,以及 ascii 都是字符的二进制(字节)编码形式。...把字符从 unicode 转换成二进制编码,当然是要 encode。...,反之,json.loads是把json str 转换为python object。
在开发的过程中,字符编码常常令我们头痛。经常会出现各种各样的乱码。下面就介绍java的编码转换和常见的乱码是使用什么样的编码去读取的: 先看一张图片: ?...在看看java中如何处理编码的转换: package com.test; /** * 字符串编码转换 * @author Herman.xiong * @date 2015年7月16日09:36...; System.out.println(str); //转换成utf-8输出 System.out.println(new String(.getBytes("utf-8"))); /.../转换成gbk输出 System.out.println(new String(.getBytes("gbk"))); //将ISO-8859-1转换为utf-8 System.out.println
主要应用的场景 爬虫生成带搜索词语的网址 1.字符串转为url编码 import urllib poet_name = "李白" url_code_name = urllib.quote(poet_name...) print url_code_name #输出 #%E6%9D%8E%E7%99%BD 2.url编码转为字符串 import urllib url_code_name = "%E6%9D%8E%E7%
文本文件都有编码格式,常见格式有UTF8、GBK、latin1等,因为编码不统一,所以在文件处理的时候经常会遇到编码导致的乱码问题 查看文件编码 file命令 $ file utf8_hello.txt...utf8_hello.txt: UTF-8 Unicode text 文件编码转换 命令用法 iconv -f src_encoding -t target_encoding inputfile -o...outputfile 示例 # 把utf8编码的文件utf8_hello.txt转换为gbk编码的gbk_hello.txt iconv -f utf-8 -t gbk utf8_hello.txt...-o gbk_hello.txt 按照指定编码打开文件 vim ## 使用gbk编码打开文件file.txt vim file.txt -c "e ++enc=gbk" Sublime File ->...Reopen with Encoding 参考 vim 读写 gbk 编码的文件 linux查看文件编码格式
精彩编码 Description 如果没有阿拉伯数字,我们想得到怎样来表示数字 小明觉得一个方法,如下面的: 1 -> A 2 -> B 3 -> C …. 25 ->...如今请你写一个程序完毕这个转换 Input 输入的第一个数为一个正整数T,表明接下来有T组数据。...<= 1000) Output 对于每一个正整数n,输出他相应的字符串 Sample Input 3 1 10 27 Sample Output A J AA 进制转换
UTF-8格式的文件,类似GBK等编码格式里的汉字都会呈现乱码状态。...手动用Notepad++转换很方便,但是批量处理就很尴尬了,由此引出本篇blog 需要的库 chardet、codecs 简介 引用codecs介绍如下 在Python中,codecs模块提供了实现这些规则的方法...引用chardet介绍如下 在处理字符串时,常常会遇到不知道字符串是何种编码,如果不知道字符串的编码就不能将字符串转换成需要的编码。面对多种不同编码的输入方式,是否会有一种有效的编码方式?...chardet是一个非常优秀的编码识别模块。...import codecs 安装chardet模块 推荐地址: http://download.csdn.net/download/aqwd2008/4256178 官方地址: http://pypi.python.org
查看编码 select userenv('language') from dual; shutdown immediate startup mount alter system enable restricted
下面介绍一下,在Linux中如何查看文件的编码及如何进行对文件进行编码转换。...文件编码转换 1.在Vim中直接进行转换文件编码,比如将一个文件转换成utf-8格式 :set fileencoding=utf-8 2. iconv 转换,iconv的命令格式如下: iconv -f...在Linux中专门提供了一种工具convmv进行文件名编码的转换,可以将文件名从GBK转换成UTF-8编码,或者从UTF-8转换到GBK。...–list 显示所有支持的编码 –unescap 可以做一下转义,比如把%20变成空格 比如我们有一个utf8编码的文件名,转换成GBK编码,命令如下: convmv -f UTF-8 -t GBK –...notest utf8编码的文件名 这样转换以后”utf8编码的文件名”会被转换成GBK编码(只是文件名编码的转换,文件内容不会发生变化) 以上这篇浅谈Linux的编码及编码转换方法就是小编分享给大家的全部内容了
网络上下载的好多文本是GBK的编码,在mac电脑上打开是乱码 除了下载有多种编码的文本编辑器外,通过终端也可以进行转码 iconv -f GBK -t UTF-8 原文件名 > 随便起个名 文本内容的编码...:用Terminal 里的 iconv 命令批量转换文本编码到UTF8....新建一个文件夹,在下载目录下创建文件夹 encoding ,然后将要转换的文本拉入这个文件夹。 2....Albert$ find *.txt -exec sh -c "iconv -f GB18030 -t UTF8 {} > {}.txt" \; 上面的 -f 后的参数是针对GB18030,如果你转换前的编码为...最常用的几个参数 重要参数是: -f是表示从什么编码,后面跟编码 -t是表示转换到什么编码,后面跟编码 >表示从哪个文件保存为哪个文件 较少用的参数: -c 从输出中忽略无效的字符 -o, --output
领取专属 10元无门槛券
手把手带您无忧上云