Получение данных из таблицы в базе данных
Я хочу извлечь данные из postgresql
database и использовать эти данные (в формате фрейма данных) в скрипте. Вот моя первая попытка:
from pandas import DataFrame
import psycopg2
conn = psycopg2.connect(host=host_address, database=name_of_database, user=user_name, password=user_password)
cur = conn.cursor()
cur.execute("SELECT * FROM %s;" % name_of_table)
the_data = cur.fetchall()
colnames = [desc[0] for desc in cur.description]
the_frame = DataFrame(the_data)
the_frame.columns = colnames
cur.close()
conn.close()
примечание: Я знаю, что я не должен использовать "интерполяцию параметров строки (%) для передачи переменных в строку запроса SQL", но это отлично работает для меня, как есть.
будет ли более прямой подход к этому?
Edit: вот что я использовал из выбранного ответ:
import pandas as pd
import sqlalchemy as sq
engine = sq.create_engine("postgresql+psycopg2://username:password@host:port/database")
the_frame = pd.read_sql_table(name_of_table, engine)
2 ответов
панды могут загружать данные из Postgres напрямую:
import psycopg2
import pandas.io.sql as pdsql
conn = psycopg2.connect(...)
the_frame = pdsql.read_frame("SELECT * FROM %s;" % name_of_table, conn)
если у вас есть последние панды (>=0.14), вы должны использовать read_sql_query/table
(read_frame
устарел) с движком sqlalchemy:
import pandas as pd
import sqlalchemy
import psycopg2
engine = sqlalchemy.create_engine("postgresql+psycopg2://...")
the_frame = pd.read_sql_query("SELECT * FROM %s;" % name_of_table, engine)
the_frame = pd.read_sql_table(name_of_table, engine)
вот альтернативный способ:
# run sql code
result = conn.execute(sql)
# Insert to a dataframe
df = DataFrame(data=list(result), columns=result.keys())