Pandas: удаление строк на основе других строк

у меня есть фрейм данных pandas, который выглядит так:

qseqid  sseqid  qstart    qend
2         1     125       345
4         1     150       320
3         2     150       450
6         2     25        300
8         2     50        500

Я хотел бы удалить строки на основе других значений строк с этими критериями : строка (r1) должна быть удалена, если другая строка (r2) существует с тем же sseqid и r1[qstart] > r2[qstart] и r1[qend] < r2[qend].

возможно ли это с пандами ?

1 ответов


df  = pd.DataFrame({'qend': [345, 320, 450, 300, 500],
 'qseqid': [2, 4, 3, 6, 8],
 'qstart': [125, 150, 150, 25, 50],
 'sseqid': [1, 1, 2, 2, 2]})

def remove_rows(df):
    merged = pd.merge(df.reset_index(), df, on='sseqid')
    mask = ((merged['qstart_x'] > merged['qstart_y']) 
            & (merged['qend_x'] < merged['qend_y']))
    df_mask = ~df.index.isin(merged.loc[mask, 'index'].values)
    result = df.loc[df_mask]
    return result

result = remove_rows(df)
print(result)

доходность

   qend  qseqid  qstart  sseqid
0   345       2     125       1
3   300       6      25       2
4   500       8      50       2

идея в том, чтобы использовать pd.merge чтобы сформировать фрейм данных с каждым спариванием строк с тем же sseqid:

In [78]: pd.merge(df.reset_index(), df, on='sseqid')
Out[78]: 
    index  qend_x  qseqid_x  qstart_x  sseqid  qend_y  qseqid_y  qstart_y
0       0     345         2       125       1     345         2       125
1       0     345         2       125       1     320         4       150
2       1     320         4       150       1     345         2       125
3       1     320         4       150       1     320         4       150
4       2     450         3       150       2     450         3       150
5       2     450         3       150       2     300         6        25
6       2     450         3       150       2     500         8        50
7       3     300         6        25       2     450         3       150
8       3     300         6        25       2     300         6        25
9       3     300         6        25       2     500         8        50
10      4     500         8        50       2     450         3       150
11      4     500         8        50       2     300         6        25
12      4     500         8        50       2     500         8        50

каждая строка merged содержит данные из двух строк df. Затем вы можете сравнить каждые две строки, используя

mask = ((merged['qstart_x'] > merged['qstart_y']) 
        & (merged['qend_x'] < merged['qend_y']))

и найдите ярлыки в df.index, которые не соответствуют этому условию:

df_mask = ~df.index.isin(merged.loc[mask, 'index'].values)

и выберите те строки:

result = df.loc[df_mask]

обратите внимание, что это предполагает df имеет уникальный индекс.