Получение данных из таблицы в базе данных

Я хочу извлечь данные из postgresql database и использовать эти данные (в формате фрейма данных) в скрипте. Вот моя первая попытка:

from pandas import DataFrame
import psycopg2

conn = psycopg2.connect(host=host_address, database=name_of_database, user=user_name, password=user_password)

cur = conn.cursor()

cur.execute("SELECT * FROM %s;" % name_of_table)

the_data = cur.fetchall()

colnames = [desc[0] for desc in cur.description]

the_frame = DataFrame(the_data)
the_frame.columns = colnames

cur.close()
conn.close()

примечание: Я знаю, что я не должен использовать "интерполяцию параметров строки (%) для передачи переменных в строку запроса SQL", но это отлично работает для меня, как есть.

будет ли более прямой подход к этому?

Edit: вот что я использовал из выбранного ответ:

import pandas as pd
import sqlalchemy as sq

engine = sq.create_engine("postgresql+psycopg2://username:password@host:port/database")

the_frame = pd.read_sql_table(name_of_table, engine)

2 ответов


панды могут загружать данные из Postgres напрямую:

import psycopg2
import pandas.io.sql as pdsql

conn = psycopg2.connect(...)

the_frame = pdsql.read_frame("SELECT * FROM %s;" % name_of_table, conn)

если у вас есть последние панды (>=0.14), вы должны использовать read_sql_query/table (read_frame устарел) с движком sqlalchemy:

import pandas as pd
import sqlalchemy
import psycopg2

engine = sqlalchemy.create_engine("postgresql+psycopg2://...")

the_frame = pd.read_sql_query("SELECT * FROM %s;" % name_of_table, engine)
the_frame = pd.read_sql_table(name_of_table, engine)

вот альтернативный способ:

    # run sql code
    result = conn.execute(sql)   

    # Insert to a dataframe
    df = DataFrame(data=list(result), columns=result.keys())