Импортируйте JSON в датафрейм и нормализуйте - PullRequest
0 голосов
/ 19 октября 2018

У меня есть следующий документ json, который я хочу импортировать в фрейм данных:

{
"agents": [
    {
        "core_build": "17",
        "core_version": "7.1.1",
        "distro": "win-x86-64",
        "groups": [
            {
                "id": 101819,
                "name": "O Laptops"
            }
        ],
        "id": 2198802,
        "ip": "x.x.x.x",
        "last_connect": 1539962159,
        "last_scanned": 1539373347,
        "linked_on": 1534964847,
        "name": "x1x1x1x1",
        "platform": "WINDOWS",
        "plugin_feed_id": "201810182051",
        "status": "on",
        "uuid": "ca8b941a-80cd-4c1c-8044-760e69781eb7"
    },
    {
        "core_build": "17",
        "core_version": "7.1.1",
        "distro": "win-x86-64",
        "groups": [
            {
                "id": 101839,
                "name": "G Personal"
            },
            {
                "id": 102037,
                "name": "W6"
            },
            {
                "id": 102049,
                "name": "MS8"
            }
        ],
        "id": 2097601,
        "ip": "x.x.x.x",
        "last_connect": 1539962304,
        "last_scanned": 1539437865,
        "linked_on": 1529677890,
        "name": "x2xx2x2x2",
        "platform": "WINDOWS",
        "plugin_feed_id": "201810181351",
        "status": "on",
        "uuid": "7e3ef1ff-4f08-445a-b500-e7ce3ca9a2f2"
    },
    {
        "core_build": "14",
        "core_version": "7.1.0",
        "distro": "win-x86-64",
        "id": 2234103,
        "ip": "x6x6x6x6x",
        "last_connect": 1537384290,
        "linked_on": 1537384247,
        "name": "x7x7x7x",
        "platform": "WINDOWS",
        "status": "off",
        "uuid": "0696ee38-402a-4866-b753-2816482dfce6"
    }],
"pagination": {
    "limit": 5000,
    "offset": 0,
    "sort": [
        {
            "name": "name",
            "order": "asc"
        }
    ],
    "total": 14416
 }
}

Я написал следующий код для той же цели:

import json
from pandas.io.json import json_normalize

with open('out.json') as f:
    data = json.load(f)

df = json_normalize(data, 'agents', [['groups', 'name']], errors='ignore')
print(df)

Это распаковываетвсе поля в «агентах» (вместе с полем «группы» в качестве многозначного поля) как есть, а также новое поле с именем «groups.name», которое имеет значение null (все значения - NaN).

Я хочу только распаковать поля в поле «агенты» в кадр данных, а поля в поле «группы» распаковать в отдельные столбцы («core_build», «core_version», «distro», «groups.name»), 'id', 'ip', 'last_connect', 'last_scanned', 'connected_on', 'name', 'platform', 'plugin_feed_id', 'status', 'uuid').

Как мне этого добиться?

Редактировать: Выполнение следующих действий

df = json_normalize(pd.concat([pd.DataFrame(i) for i in data['agents']]).to_dict('r'))

возвращает ошибку ValueError: При использовании всех скалярных значений необходимо передать индекс

1 Ответ

0 голосов
/ 19 октября 2018

Вы можете использовать pd.concat() с пониманием списка:

df = pd.concat([pd.DataFrame(i) for i in my_json['agents']])

Или попробуйте это, если хотите распаковать столбец group типа dict для разделения столбцов:

df = json_normalize(pd.concat([pd.DataFrame(i) for i in my_json['agents']]).to_dict('r'))

Выход:

  core_build core_version      distro  groups.id groups.name       id  \
0         17        7.1.1  win-x86-64     101819   O Laptops  2198802   
1         17        7.1.1  win-x86-64     101893   V Laptops  2169839   
2         17        7.1.1  win-x86-64     101839    Personal  2097601   
3         17        7.1.1  win-x86-64     102037          Wi  2097601   
4         17        7.1.1  win-x86-64     102049         MS8  2097601   

        ip  last_connect  last_scanned   linked_on      name platform  \
0  x.x.x.x    1539962159    1539373347  1534964847  x1x1x1x1  WINDOWS   
1  x.x.x.x    1539962767    1539374603  1533666075  x2x2x2x2  WINDOWS   
2  x.x.x.x    1539962304    1539437865  1529677890  x3x3x3x3  WINDOWS   
3  x.x.x.x    1539962304    1539437865  1529677890  x3x3x3x3  WINDOWS   
4  x.x.x.x    1539962304    1539437865  1529677890  x3x3x3x3  WINDOWS   

  plugin_feed_id status                                  uuid  
0   201810182051     on  ca8b941a-80cd-4c1c-8044-760e69781eb7  
1   201810171657     on  9400817b-235b-423b-b163-c4c86f973232  
2   201810181351     on  7e3ef1ff-4f08-445a-b500-e7ce3ca9a2f2  
3   201810181351     on  7e3ef1ff-4f08-445a-b500-e7ce3ca9a2f2  
4   201810181351     on  7e3ef1ff-4f08-445a-b500-e7ce3ca9a2f2  
Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...