如何在 python ctypes 中使用 UTF-16?
How to work with UTF-16 in python ctypes?
我有一个外国 C 库,它在 API 中使用 utf-16:作为函数参数,return 值和结构成员。
在 Windows 上 ctypes.c_wchar_p 没问题,但在 OSX 下 ctypes 在 c_wchar 中使用 UCS-32,我找不到支持 utf-16 的方法.
这是我的研究:
使用 _SimpleCData 子类化 redefine _check_retval_。
- 它允许将 utf-16 透明转换为 Python 字符串。
- 可以作为C结构成员放置
- 但它不允许将字符串作为参数处理,它的
from_param()
方法从未被调用过(为什么?):
func('str', b'W\x00B\x00\x00\x00') # passed without conversion
使用自己的类型和 from_param()
方法。
- 优点:可以使用构造函数初始化,也可以在将字符串传递给函数时动态编码:
- 缺点:不能作为函数return类型或结构成员使用。
这里是:
ustr = myutf16('hello')
func(ustr)
func('hello') # calls myutf16.from_param('hello')
您可以覆盖 c_char_p
子 class 中的 from_param
以将 unicode
字符串编码为 UTF-16。您可以添加 _check_retval_
方法将 UTF-16 结果解码为 unicode
字符串。对于结构字段,您可以使用描述符 class 来处理设置和获取属性。使该字段成为 c_char_p
类型的私有 _name
,并将描述符设置为 public name
。例如:
import sys
import ctypes
if sys.version_info[0] > 2:
unicode = str
def decode_utf16_from_address(address, byteorder='little',
c_char=ctypes.c_char):
if not address:
return None
if byteorder not in ('little', 'big'):
raise ValueError("byteorder must be either 'little' or 'big'")
chars = []
while True:
c1 = c_char.from_address(address).value
c2 = c_char.from_address(address + 1).value
if c1 == b'\x00' and c2 == b'\x00':
break
chars += [c1, c2]
address += 2
if byteorder == 'little':
return b''.join(chars).decode('utf-16le')
return b''.join(chars).decode('utf-16be')
class c_utf16le_p(ctypes.c_char_p):
def __init__(self, value=None):
super(c_utf16le_p, self).__init__()
if value is not None:
self.value = value
@property
def value(self,
c_void_p=ctypes.c_void_p):
addr = c_void_p.from_buffer(self).value
return decode_utf16_from_address(addr, 'little')
@value.setter
def value(self, value,
c_char_p=ctypes.c_char_p):
value = value.encode('utf-16le') + b'\x00'
c_char_p.value.__set__(self, value)
@classmethod
def from_param(cls, obj):
if isinstance(obj, unicode):
obj = obj.encode('utf-16le') + b'\x00'
return super(c_utf16le_p, cls).from_param(obj)
@classmethod
def _check_retval_(cls, result):
return result.value
class UTF16LEField(object):
def __init__(self, name):
self.name = name
def __get__(self, obj, cls,
c_void_p=ctypes.c_void_p,
addressof=ctypes.addressof):
field_addr = addressof(obj) + getattr(cls, self.name).offset
addr = c_void_p.from_address(field_addr).value
return decode_utf16_from_address(addr, 'little')
def __set__(self, obj, value):
value = value.encode('utf-16le') + b'\x00'
setattr(obj, self.name, value)
示例:
if __name__ == '__main__':
class Test(ctypes.Structure):
_fields_ = (('x', ctypes.c_int),
('y', ctypes.c_void_p),
('_string', ctypes.c_char_p))
string = UTF16LEField('_string')
print('test 1: structure field')
t = Test()
t.string = u'eggs and spam'
print(t.string)
print('test 2: parameter and result')
result = None
@ctypes.CFUNCTYPE(c_utf16le_p, c_utf16le_p)
def testfun(string):
global result
print('parameter: %s' % string.value)
# callbacks leak memory except for simple return
# values such as an integer address, so return the
# address of a global variable.
result = c_utf16le_p(string.value + u' and eggs')
return ctypes.c_void_p.from_buffer(result).value
print('result: %s' % testfun(u'spam'))
输出:
test 1: structure field
eggs and spam
test 2: parameter and result
parameter: spam
result: spam and eggs
我有一个外国 C 库,它在 API 中使用 utf-16:作为函数参数,return 值和结构成员。
在 Windows 上 ctypes.c_wchar_p 没问题,但在 OSX 下 ctypes 在 c_wchar 中使用 UCS-32,我找不到支持 utf-16 的方法.
这是我的研究:
使用 _SimpleCData 子类化 redefine _check_retval_。
- 它允许将 utf-16 透明转换为 Python 字符串。
- 可以作为C结构成员放置
- 但它不允许将字符串作为参数处理,它的
from_param()
方法从未被调用过(为什么?):func('str', b'W\x00B\x00\x00\x00') # passed without conversion
使用自己的类型和
from_param()
方法。- 优点:可以使用构造函数初始化,也可以在将字符串传递给函数时动态编码:
- 缺点:不能作为函数return类型或结构成员使用。
这里是:
ustr = myutf16('hello')
func(ustr)
func('hello') # calls myutf16.from_param('hello')
您可以覆盖 c_char_p
子 class 中的 from_param
以将 unicode
字符串编码为 UTF-16。您可以添加 _check_retval_
方法将 UTF-16 结果解码为 unicode
字符串。对于结构字段,您可以使用描述符 class 来处理设置和获取属性。使该字段成为 c_char_p
类型的私有 _name
,并将描述符设置为 public name
。例如:
import sys
import ctypes
if sys.version_info[0] > 2:
unicode = str
def decode_utf16_from_address(address, byteorder='little',
c_char=ctypes.c_char):
if not address:
return None
if byteorder not in ('little', 'big'):
raise ValueError("byteorder must be either 'little' or 'big'")
chars = []
while True:
c1 = c_char.from_address(address).value
c2 = c_char.from_address(address + 1).value
if c1 == b'\x00' and c2 == b'\x00':
break
chars += [c1, c2]
address += 2
if byteorder == 'little':
return b''.join(chars).decode('utf-16le')
return b''.join(chars).decode('utf-16be')
class c_utf16le_p(ctypes.c_char_p):
def __init__(self, value=None):
super(c_utf16le_p, self).__init__()
if value is not None:
self.value = value
@property
def value(self,
c_void_p=ctypes.c_void_p):
addr = c_void_p.from_buffer(self).value
return decode_utf16_from_address(addr, 'little')
@value.setter
def value(self, value,
c_char_p=ctypes.c_char_p):
value = value.encode('utf-16le') + b'\x00'
c_char_p.value.__set__(self, value)
@classmethod
def from_param(cls, obj):
if isinstance(obj, unicode):
obj = obj.encode('utf-16le') + b'\x00'
return super(c_utf16le_p, cls).from_param(obj)
@classmethod
def _check_retval_(cls, result):
return result.value
class UTF16LEField(object):
def __init__(self, name):
self.name = name
def __get__(self, obj, cls,
c_void_p=ctypes.c_void_p,
addressof=ctypes.addressof):
field_addr = addressof(obj) + getattr(cls, self.name).offset
addr = c_void_p.from_address(field_addr).value
return decode_utf16_from_address(addr, 'little')
def __set__(self, obj, value):
value = value.encode('utf-16le') + b'\x00'
setattr(obj, self.name, value)
示例:
if __name__ == '__main__':
class Test(ctypes.Structure):
_fields_ = (('x', ctypes.c_int),
('y', ctypes.c_void_p),
('_string', ctypes.c_char_p))
string = UTF16LEField('_string')
print('test 1: structure field')
t = Test()
t.string = u'eggs and spam'
print(t.string)
print('test 2: parameter and result')
result = None
@ctypes.CFUNCTYPE(c_utf16le_p, c_utf16le_p)
def testfun(string):
global result
print('parameter: %s' % string.value)
# callbacks leak memory except for simple return
# values such as an integer address, so return the
# address of a global variable.
result = c_utf16le_p(string.value + u' and eggs')
return ctypes.c_void_p.from_buffer(result).value
print('result: %s' % testfun(u'spam'))
输出:
test 1: structure field
eggs and spam
test 2: parameter and result
parameter: spam
result: spam and eggs