在查询中使用UNION,COUNT和GROUP BY

时间:2012-06-27 08:53:21

标签: mysql sqlalchemy

我有一个名为iphdr的表,它有两个字段ip_srcip_dst,它们以数字(inet_aton)形式存储IP。我需要为我的webapp获取最常出现的源,目标和(源+目标)IP。我正在使用SQLalchemy和金字塔。

经常出现的来源/目的地IP

这很容易。我只是计算一个小组并得到结果

mysql> select inet_ntoa(ip_dst) as ip,count(*) as count1 from iphdr group by ip;
+--------------+--------+
| ip           | count1 |
+--------------+--------+
| 192.168.1.22 |     13 |
| 192.168.2.8  |      1 |
| 31.1.1.22    |      1 |
| 31.21.18.100 |    905 |
| 31.21.18.221 |      4 |
+--------------+--------+
5 rows in set (0.00 sec)

SQLAlchemy中的对应语句是

>>>top_srcs = session.query(func.inet_ntoa(IpHdr.ip_dst).label('ip'),func.count('*').label('ip_count')).group_by('ip').order_by(desc('ip_count'))
>>>print top_srcs.all()
[('31.21.18.100', 905L), ('192.168.1.22', 13L), ('31.21.18.221', 4L), ('192.168.2.8', 1L), ('31.1.1.22', 1L)]

经常发生的Src + Dest按计数排序

在MySQL中,我可以通过使用union all来组合各个src / dest查询

来轻松完成此操作
mysql> select 
m.ip,sum(m.count1) as c 
from 
(
select 
inet_ntoa(ip_dst) as ip,count(*) as count1 
from iphdr group by ip 
union all 
select 
inet_ntoa(ip_src) as ip,count(*) as count1 
from iphdr group by ip
) 
as m  group by m.ip order by c desc;
+---------------+------+
| ip            | c    |
+---------------+------+
| 31.21.18.100  |  924 |
| 192.168.2.10  |  186 |
| 31.21.18.101  |  171 |
| 192.168.2.9   |  165 |
| 192.168.2.8   |   96 |
| 192.168.2.4   |   84 |
| 192.168.2.5   |   78 |
| 192.168.2.6   |   38 |
| 192.168.1.22  |   31 |
| 31.1.1.9      |   25 |
| 31.11.100.101 |   17 |
| 192.168.2.7   |   17 |
| 31.21.18.221  |    6 |
| 192.168.33.10 |    6 |
| 31.1.1.22     |    4 |
+---------------+------+
15 rows in set (0.01 sec)

但是在SQLALchemy中,尝试以相同的方式组合这两个语句会给我带来各种错误

top_srcs = session.query(func.inet_ntoa(IpHdr.ip_src).label('ip'),func.count('*').label('ip_count')).group_by('ip').order_by(desc('ip_count'))
    top_dsts = session.query(func.inet_ntoa(IpHdr.ip_dst).label('ip'),func.count('*').label('ip_count')).group_by('ip').order_by(desc('ip_count'))

mod_top_srcs = top_srcs.subquery().select()
mod_top_dsts = top_dsts.subquery().select()
x = union_all(mod_top_srcs,mod_top_dsts).select()
top_total = session.query(x).group_by('ip').order_by(desc('total'))

OperationalError: (OperationalError) (1248, 'Every derived table must have its own alias

我看了this线程,但解决方案对我不起作用

修改

我骗了别名(因为那是初始错误)并设法编写以下声明

>>>ts = top_srcs.subquery().select()
>>>td = top_dsts.subquery().select()
>>>session.query('ip','ip_count').select_from(union_all(ts,td).alias('mno').select().alias('abc')).all()
[('192.168.2.10', 186L), ('31.21.18.101', 171L), ('192.168.2.9', 165L), ('192.168.2.8', 95L), ('192.168.2.4', 84L), ('192.168.2.5', 78L), ('192.168.2.6', 38L), ('31.1.1.9', 25L), ('31.21.18.100', 19L), ('192.168.1.22', 18L), ('31.11.100.101', 17L), ('192.168.2.7', 17L), ('192.168.33.10', 6L), ('31.1.1.22', 3L), ('31.21.18.221', 2L), ('31.21.18.100', 905L), ('192.168.1.22', 13L), ('31.21.18.221', 4L), ('192.168.2.8', 1L), ('31.1.1.22', 1L)]

但试图得到总和打破它

>>> session.query('ip',sum('ip_count')).select_from(union_all(ts,td).alias('mno').select().alias('abc')).group_by('abc.ip').all()
[('192.168.1.22', 0.0), ('192.168.2.10', 0.0), ('192.168.2.4', 0.0), ('192.168.2.5', 0.0), ('192.168.2.6', 0.0), ('192.168.2.7', 0.0), ('192.168.2.8', 0.0), ('192.168.2.9', 0.0), ('192.168.33.10', 0.0), ('31.1.1.22', 0.0), ('31.1.1.9', 0.0), ('31.11.100.101', 0.0), ('31.21.18.100', 0.0), ('31.21.18.101', 0.0), ('31.21.18.221', 0.0)]

我想我需要在查询部分放置 something 以使其正常工作

感谢任何帮助

1 个答案:

答案 0 :(得分:2)

终于成功了。

诀窍是在子查询中使用union_all,以便它获得别名。然后最后一个语句只适用于该子查询

>>>top_srcs = session.query(func.inet_ntoa(IpHdr.ip_src).label('ip'),func.count('*').label('ip_count')).group_by('ip').order_by(desc('ip_count'))
>>>top_dsts = session.query(func.inet_ntoa(IpHdr.ip_dst).label('ip'),func.count('*').label('ip_count')).group_by('ip').order_by(desc('ip_count'))
>>>ts = top_srcs.subquery().select()
>>>td = top_dsts.subquery().select()
>>>q1 = session.query('ip','ip_count').select_from(union_all(ts,td).alias('mno').select()).subquery()
>>>top_total = session.query(q1.c.ip.label('ip'),func.sum(q1.c.ip_count).label('count1')).select_from(q1).group_by('ip').order_by('count1')

>>>top_total.all()
[('31.21.18.100', Decimal('924')), ('192.168.2.10', Decimal('186')), ('31.21.18.101', Decimal('171')), ('192.168.2.9', Decimal('165')), ('192.168.2.8', Decimal('96')), ('192.168.2.4', Decimal('84')), ('192.168.2.5', Decimal('78')), ('192.168.2.6', Decimal('38')), ('192.168.1.22', Decimal('31')), ('31.1.1.9', Decimal('25')), ('31.11.100.101', Decimal('17')), ('192.168.2.7', Decimal('17')), ('31.21.18.221', Decimal('6')), ('192.168.33.10', Decimal('6')), ('31.1.1.22', Decimal('4'))]