Когда применять (pd.to_numeric) и когда астипировать (np.float64) в python?
У меня есть объект pandas DataFrame с именем xiv, который имеет столбец int64 Измерения объема.
In[]: xiv['Volume'].head(5)
Out[]:
0 252000
1 484000
2 62000
3 168000
4 232000
Name: Volume, dtype: int64
Я прочитал другие сообщения (например this и this), которые предлагают следующие решения. Но когда я использую любой подход, он не изменяет dtype базовых данных:
In[]: xiv['Volume'] = pd.to_numeric(xiv['Volume'])
In[]: xiv['Volume'].dtypes
Out[]:
dtype('int64')
Или...
In[]: xiv['Volume'] = pd.to_numeric(xiv['Volume'])
Out[]: ###omitted for brevity###
In[]: xiv['Volume'].dtypes
Out[]:
dtype('int64')
In[]: xiv['Volume'] = xiv['Volume'].apply(pd.to_numeric)
In[]: xiv['Volume'].dtypes
Out[]:
dtype('int64')
Я также попытался сделать отдельный pandas Series и использовать методы, перечисленные выше в этой серии, и переназначить на объект x['Volume'], который является объектом pandas.core.series.Series.
Однако я нашел решение этой проблемы, используя numpy package float64 type - , но я не знаю, почему он отличается.
In[]: xiv['Volume'] = xiv['Volume'].astype(np.float64)
In[]: xiv['Volume'].dtypes
Out[]:
dtype('float64')
Может кто-нибудь объяснить, как выполнить с библиотекой pandas, что библиотека numpy, кажется, делает легко с ее классом float64; то есть преобразовать столбец в xiv DataFrame в float64 на месте.
Ответы
Ответ 1
Если у вас уже есть числовые dtypes (int8|16|32|64, float64, boolean), вы можете преобразовать их в другой "числовой" dtype, используя метод Pandas .astype().
Демо-версия:
In [90]: df = pd.DataFrame(np.random.randint(10**5,10**7,(5,3)),columns=list('abc'), dtype=np.int64)
In [91]: df
Out[91]:
a b c
0 9059440 9590567 2076918
1 5861102 4566089 1947323
2 6636568 162770 2487991
3 6794572 5236903 5628779
4 470121 4044395 4546794
In [92]: df.dtypes
Out[92]:
a int64
b int64
c int64
dtype: object
In [93]: df['a'] = df['a'].astype(float)
In [94]: df.dtypes
Out[94]:
a float64
b int64
c int64
dtype: object
Это не будет работать для object (строковых) dtypes, которые не могут быть преобразованы в числа:
In [95]: df.loc[1, 'b'] = 'XXXXXX'
In [96]: df
Out[96]:
a b c
0 9059440.0 9590567 2076918
1 5861102.0 XXXXXX 1947323
2 6636568.0 162770 2487991
3 6794572.0 5236903 5628779
4 470121.0 4044395 4546794
In [97]: df.dtypes
Out[97]:
a float64
b object
c int64
dtype: object
In [98]: df['b'].astype(float)
...
skipped
...
ValueError: could not convert string to float: 'XXXXXX'
Итак, здесь мы хотим использовать метод pd.to_numeric():
In [99]: df['b'] = pd.to_numeric(df['b'], errors='coerce')
In [100]: df
Out[100]:
a b c
0 9059440.0 9590567.0 2076918
1 5861102.0 NaN 1947323
2 6636568.0 162770.0 2487991
3 6794572.0 5236903.0 5628779
4 470121.0 4044395.0 4546794
In [101]: df.dtypes
Out[101]:
a float64
b float64
c int64
dtype: object
Ответ 2
У меня нет технического объяснения этому, но я заметил, что pd.to_numeric() вызывает следующую ошибку при преобразовании строки 'nan':
In [10]: df = pd.DataFrame({'value': 'nan'}, index=[0])
In [11]: pd.to_numeric(df.value)
Traceback (most recent call last):
File "<ipython-input-11-98729d13e45c>", line 1, in <module>
pd.to_numeric(df.value)
File "C:\Users\joshua.lee\AppData\Local\Continuum\anaconda3\lib\site-packages\pandas\core\tools\numeric.py", line 133, in to_numeric
coerce_numeric=coerce_numeric)
File "pandas/_libs/src\inference.pyx", line 1185, in pandas._libs.lib.maybe_convert_numeric
ValueError: Unable to parse string "nan" at position 0
тогда как astype (float) не имеет:
df.value.astype(float)
Out[12]:
0 NaN
Name: value, dtype: float64
