Преобразование numpy dtypes в родные типы python
Если у меня есть numpy dtype, как я могу автоматически преобразовать его в ближайший тип данных python? Например,
numpy.float32 -> "python float"
numpy.float64 -> "python float"
numpy.uint32 -> "python int"
numpy.int16 -> "python int"
Я мог бы попытаться отобразить все эти случаи, но numpy предоставляет некоторый автоматический способ преобразования его типов в наиболее близкие по размеру родные типы python? Это сопоставление не должно быть исчерпывающим, но оно должно преобразовывать общие типы dtypes, которые имеют близкий аналог python. Я думаю, что это уже происходит где-то в numpy.
Ответы
Ответ 1
Используйте val.item()
для преобразования большинства значений NumPy в собственный тип Python:
import numpy as np
# for example, numpy.float32 -> python float
val = np.float32(0)
pyval = val.item()
print(type(pyval)) # <class 'float'>
# and similar...
type(np.float64(0).item()) # <class 'float'>
type(np.uint32(0).item()) # <class 'long'>
type(np.int16(0).item()) # <class 'int'>
type(np.cfloat(0).item()) # <class 'complex'>
type(np.datetime64(0, 'D').item()) # <class 'datetime.date'>
type(np.datetime64('2001-01-01 00:00:00').item()) # <class 'datetime.datetime'>
type(np.timedelta64(0, 'D').item()) # <class 'datetime.timedelta'>
...
(Другим методом является np.asscalar(val)
, однако он не рекомендуется с NumPy 1.16).
Для любопытных, чтобы построить таблицу преобразований скаляров массива NumPy для вашей системы:
for name in dir(np):
obj = getattr(np, name)
if hasattr(obj, 'dtype'):
try:
if 'time' in name:
npn = obj(0, 'D')
else:
npn = obj(0)
nat = npn.item()
print('{0} ({1!r}) -> {2}'.format(name, npn.dtype.char, type(nat)))
except:
pass
Существует несколько типов NumPy, которые не имеют собственного Python-эквивалента в некоторых системах, включая: clongdouble
, clongfloat
, complex192
, complex256
, float128
, longcomplex
, longdouble
и longfloat
. Их необходимо преобразовать в ближайший эквивалент NumPy перед использованием .item()
.
Ответ 2
обнаружил, что у меня смешанный набор типов numpy и стандартный питон. поскольку все типы numpy производятся от numpy.generic
, здесь вы можете преобразовать все в стандартные типы python:
if isinstance(obj, numpy.generic):
return numpy.asscalar(obj)
Ответ 3
Как насчет:
In [51]: dict([(d, type(np.zeros(1,d).tolist()[0])) for d in (np.float32,np.float64,np.uint32, np.int16)])
Out[51]:
{<type 'numpy.int16'>: <type 'int'>,
<type 'numpy.uint32'>: <type 'long'>,
<type 'numpy.float32'>: <type 'float'>,
<type 'numpy.float64'>: <type 'float'>}
Ответ 4
Если вы хотите преобразовать (numpy.array ИЛИ numpy скалярный собственный родной тип OR numpy.darray) К родному типу вы можете просто сделать:
converted_value = getattr(value, "tolist", lambda x=value: x)()
tolist преобразует ваш скаляр или массив в собственный тип python. Функция лямбда по умолчанию заботится о случае, когда значение уже является родным.
Ответ 5
Вы также можете вызвать метод item()
объекта, который хотите преобразовать:
>>> from numpy import float32, uint32
>>> type(float32(0).item())
<type 'float'>
>>> type(uint32(0).item())
<type 'long'>
Ответ 6
Я думаю, вы можете просто написать общую функцию преобразования типа следующим образом:
import numpy as np
def get_type_convert(np_type):
convert_type = type(np.zeros(1,np_type).tolist()[0])
return (np_type, convert_type)
print get_type_convert(np.float32)
>> (<type 'numpy.float32'>, <type 'float'>)
print get_type_convert(np.float64)
>> (<type 'numpy.float64'>, <type 'float'>)
Это означает, что нет фиксированных списков, и ваш код будет масштабироваться с большим количеством типов.
Ответ 7
tolist()
- более общий подход для достижения этой цели. Он работает в любом примитивном dtype, а также в массивах или матрицах.
Я на самом деле не выдает список, если вызывается из примитивных типов:
numpy == 1.15.2
>>> import numpy as np
>>> np_float = np.float64(1.23)
>>> print(type(np_float), np_float)
<class 'numpy.float64'> 1.23
>>> listed_np_float = np_float.tolist()
>>> print(type(listed_np_float), listed_np_float)
<class 'float'> 1.23
>>> np_array = np.array([[1,2,3.], [4,5,6.]])
>>> print(type(np_array), np_array)
<class 'numpy.ndarray'> [[1. 2. 3.]
[4. 5. 6.]]
>>> listed_np_array = np_array.tolist()
>>> print(type(listed_np_array), listed_np_array)
<class 'list'> [[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]]
Ответ 8
numpy хранит эту информацию в сопоставлении, отображаемом как typeDict
, чтобы вы могли сделать что-то вроде ниже::
>>> import __builtin__
>>> import numpy as np
>>> {v: k for k, v in np.typeDict.items() if k in dir(__builtin__)}
{numpy.object_: 'object',
numpy.bool_: 'bool',
numpy.string_: 'str',
numpy.unicode_: 'unicode',
numpy.int64: 'int',
numpy.float64: 'float',
numpy.complex128: 'complex'}
Если вы хотите использовать реальные типы python, а не их имена, вы можете сделать:
>>> {v: getattr(__builtin__, k) for k, v in np.typeDict.items() if k in vars(__builtin__)}
{numpy.object_: object,
numpy.bool_: bool,
numpy.string_: str,
numpy.unicode_: unicode,
numpy.int64: int,
numpy.float64: float,
numpy.complex128: complex}
Ответ 9
Извините, что опоздал на часть, но я смотрел на проблему преобразования numpy.float64
в обычный Python float
. Я видел 3 способа сделать это:
-
npValue.item()
-
npValue.astype(float)
-
float(npValue)
Вот соответствующие сроки от IPython:
In [1]: import numpy as np
In [2]: aa = np.random.uniform(0, 1, 1000000)
In [3]: %timeit map(float, aa)
10 loops, best of 3: 117 ms per loop
In [4]: %timeit map(lambda x: x.astype(float), aa)
1 loop, best of 3: 780 ms per loop
In [5]: %timeit map(lambda x: x.item(), aa)
1 loop, best of 3: 475 ms per loop
Похоже, что float(npValue)
кажется намного быстрее.
Ответ 10
Переведите весь ndarray вместо одного объекта данных:
def trans(data):
"""
translate numpy.int/float into python native data type
"""
result = []
for i in data.index:
# i = data.index[0]
d0 = data.iloc[i].values
d = []
for j in d0:
if 'int' in str(type(j)):
res = j.item() if 'item' in dir(j) else j
elif 'float' in str(type(j)):
res = j.item() if 'item' in dir(j) else j
else:
res = j
d.append(res)
d = tuple(d)
result.append(d)
result = tuple(result)
return result
Однако это занимает несколько минут при обработке больших фреймов данных. Я также ищу более эффективное решение. Надеюсь на лучший ответ.
Ответ 11
Мой подход немного силен, но, похоже, подходит для всех случаев:
def type_np2py(dtype=None, arr=None):
'''Return the closest python type for a given numpy dtype'''
if ((dtype is None and arr is None) or
(dtype is not None and arr is not None)):
raise ValueError(
"Provide either keyword argument 'dtype' or 'arr': a numpy array or a numpy dtype.")
if dtype is None:
dtype = arr.dtype
#1) Make a single-entry numpy array of the same dtype
#2) force the array into a python 'object' dtype
#3) the array entry should now be the closest python type
single_entry = np.empty([1], dtype=dtype).astype(object)
return type(single_entry[0])
Использование:
>>> type_np2py(int)
<class 'int'>
>>> type_np2py(np.int)
<class 'int'>
>>> type_np2py(str)
<class 'str'>
>>> type_np2py(arr=np.array(['hello']))
<class 'str'>
>>> type_np2py(arr=np.array([1,2,3]))
<class 'int'>
>>> type_np2py(arr=np.array([1.,2.,3.]))
<class 'float'>