Los Pandas objet-lista datetime serie a datetime índice

0

Pregunta

Estoy usando campos de parámetro en el python-elasticsearch api para recuperar algunos datos de elasticsearch tratando de analizar la @de hora en formato iso, para su uso en un pandas dataframe.

fields = \
    [{
      "field": "@timestamp",
      "format": "strict_date_optional_time"
    }]

Por defecto elasticsearch devolver los resultados en la matriz-formato de lista, como se ve en doc:

https://www.elastic.co/guide/en/elasticsearch/reference/current/search-fields.html

The fields response always returns an array of values for each field, even when there is a single value in the _source. 

Debido a esto la resultante dataframe contiene un objeto de la lista de la serie que no puede ser analizada para un datetime serie por métodos convencionales.

Name: fields.@timestamp, Length: 18707, dtype: object
0       [2021-11-04T01:30:00.263Z]
1       [2021-11-04T01:30:00.385Z]
2       [2021-11-04T01:30:00.406Z]
3       [2021-11-04T01:30:00.996Z]
4       [2021-11-04T01:30:01.001Z]
                   ...            
8368    [2021-11-04T02:00:00.846Z]
8369    [2021-11-04T02:00:00.894Z]
8370    [2021-11-04T02:00:00.895Z]
8371    [2021-11-04T02:00:00.984Z]
8372    [2021-11-04T02:00:00.988Z]

Al tratar de analizar la serie a datetime serie:

pd.to_datetime(["fields.@timestamp"])

Que se traducen en:

TypeError: <class 'list'> is not convertible to datetime

Mi caso de uso requiere mucho datetime formatos y campos de parámetro se adapte muy bien la consulta de varios formatos, pero el de la lista de objetos datetime string difícil las cosas.

dataframe datetime elasticsearch pandas
2021-11-18 16:37:23
1

Mejor respuesta

1

El problema aquí es que los artículos de fields.@timestamp son en realidad listas.

Así que usted podría hacer :

fields['timestamp'] = fields['timestamp'].str[0]

para extraer la fecha de la lista, y, a continuación, utilizar la ep.to_datetime :

fields['timestamp'] = pd.to_datetime(fields['timestamp'])
2021-11-18 17:01:03

En otros idiomas

Esta página está en otros idiomas

Русский
..................................................................................................................
Italiano
..................................................................................................................
Polski
..................................................................................................................
Română
..................................................................................................................
한국어
..................................................................................................................
हिन्दी
..................................................................................................................
Français
..................................................................................................................
Türk
..................................................................................................................
Česk
..................................................................................................................
Português
..................................................................................................................
ไทย
..................................................................................................................
中文
..................................................................................................................
Slovenský
..................................................................................................................