排序技术¶
- 作者:
Andrew Dalke 和 Raymond Hettinger
Python 列表有一个内置的 list.sort()
方法,该方法会就地修改列表。还有一个内置的 sorted()
函数,它会从一个可迭代对象构建一个新的排序列表。
在本文档中,我们将探索使用 Python 排序数据的各种技术。
排序基础¶
简单的升序排序非常容易:只需调用 sorted()
函数。它会返回一个新的排序列表
>>> sorted([5, 2, 3, 1, 4])
[1, 2, 3, 4, 5]
你也可以使用 list.sort()
方法。它会就地修改列表(并返回 None
以避免混淆)。通常它不如 sorted()
方便,但如果你不需要原始列表,它会稍微更高效。
>>> a = [5, 2, 3, 1, 4]
>>> a.sort()
>>> a
[1, 2, 3, 4, 5]
另一个区别是 list.sort()
方法只对列表定义。相反,sorted()
函数接受任何可迭代对象。
>>> sorted({1: 'D', 2: 'B', 3: 'B', 4: 'E', 5: 'A'})
[1, 2, 3, 4, 5]
键函数¶
list.sort()
方法和函数 sorted()
、min()
、max()
、heapq.nsmallest()
和 heapq.nlargest()
都有一个 *key* 参数,用于指定一个函数(或其他可调用对象),在进行比较之前,该函数会作用于每个列表元素。
例如,这是一个使用 str.casefold()
进行不区分大小写的字符串比较的例子
>>> sorted("This is a test string from Andrew".split(), key=str.casefold)
['a', 'Andrew', 'from', 'is', 'string', 'test', 'This']
*key* 参数的值应该是一个函数(或其他可调用对象),它接受一个参数并返回一个用于排序的键。这种技术很快,因为键函数对于每个输入记录只会被调用一次。
一种常见的模式是使用对象的一些索引作为键来排序复杂对象。例如
>>> student_tuples = [
... ('john', 'A', 15),
... ('jane', 'B', 12),
... ('dave', 'B', 10),
... ]
>>> sorted(student_tuples, key=lambda student: student[2]) # sort by age
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
同样的技术也适用于具有命名属性的对象。例如
>>> class Student:
... def __init__(self, name, grade, age):
... self.name = name
... self.grade = grade
... self.age = age
... def __repr__(self):
... return repr((self.name, self.grade, self.age))
>>> student_objects = [
... Student('john', 'A', 15),
... Student('jane', 'B', 12),
... Student('dave', 'B', 10),
... ]
>>> sorted(student_objects, key=lambda student: student.age) # sort by age
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
运算符模块函数和部分函数求值¶
上面显示的 键函数 模式非常常见,因此 Python 提供了便捷函数,使访问器函数更容易、更快。 operator
模块包含 itemgetter()
、attrgetter()
和 methodcaller()
函数。
使用这些函数,上面的例子变得更简单、更快
>>> from operator import itemgetter, attrgetter
>>> sorted(student_tuples, key=itemgetter(2))
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
>>> sorted(student_objects, key=attrgetter('age'))
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
运算符模块函数允许进行多级排序。例如,按 *grade* 再按 *age* 排序
>>> sorted(student_tuples, key=itemgetter(1,2))
[('john', 'A', 15), ('dave', 'B', 10), ('jane', 'B', 12)]
>>> sorted(student_objects, key=attrgetter('grade', 'age'))
[('john', 'A', 15), ('dave', 'B', 10), ('jane', 'B', 12)]
functools
模块提供了另一个用于创建键函数的有用工具。 partial()
函数可以减少多参数函数的 元数,使其适合用作键函数。
>>> from functools import partial
>>> from unicodedata import normalize
>>> names = 'Zoë Åbjørn Núñez Élana Zeke Abe Nubia Eloise'.split()
>>> sorted(names, key=partial(normalize, 'NFD'))
['Abe', 'Åbjørn', 'Eloise', 'Élana', 'Nubia', 'Núñez', 'Zeke', 'Zoë']
>>> sorted(names, key=partial(normalize, 'NFC'))
['Abe', 'Eloise', 'Nubia', 'Núñez', 'Zeke', 'Zoë', 'Åbjørn', 'Élana']
升序和降序¶
list.sort()
和 sorted()
都接受一个布尔值的 *reverse* 参数。这用于标记降序排序。例如,要按 *age* 降序获取学生数据
>>> sorted(student_tuples, key=itemgetter(2), reverse=True)
[('john', 'A', 15), ('jane', 'B', 12), ('dave', 'B', 10)]
>>> sorted(student_objects, key=attrgetter('age'), reverse=True)
[('john', 'A', 15), ('jane', 'B', 12), ('dave', 'B', 10)]
排序稳定性和复杂排序¶
排序保证是 稳定的。这意味着当多个记录具有相同的键时,它们原来的顺序会保留。
>>> data = [('red', 1), ('blue', 1), ('red', 2), ('blue', 2)]
>>> sorted(data, key=itemgetter(0))
[('blue', 1), ('blue', 2), ('red', 1), ('red', 2)]
请注意,*blue* 的两条记录是如何保持其原始顺序的,因此 ('blue', 1)
保证在 ('blue', 2)
之前。
这个绝妙的特性允许你通过一系列排序步骤构建复杂的排序。例如,要按降序 *grade* 然后按升序 *age* 排序学生数据,请先进行 *age* 排序,然后再使用 *grade* 进行排序
>>> s = sorted(student_objects, key=attrgetter('age')) # sort on secondary key
>>> sorted(s, key=attrgetter('grade'), reverse=True) # now sort on primary key, descending
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
这可以抽象为一个包装函数,该函数可以接受一个列表和字段与顺序的元组,以进行多遍排序。
>>> def multisort(xs, specs):
... for key, reverse in reversed(specs):
... xs.sort(key=attrgetter(key), reverse=reverse)
... return xs
>>> multisort(list(student_objects), (('grade', True), ('age', False)))
[('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
Python 中使用的 Timsort 算法可以高效地进行多重排序,因为它能够利用数据集中已经存在的任何排序。
装饰-排序-去除装饰¶
这种惯用法以其三个步骤命名为 装饰-排序-去除装饰
首先,初始列表用控制排序顺序的新值进行装饰。
其次,对装饰后的列表进行排序。
最后,去除装饰,创建一个只包含按新顺序排列的初始值的列表。
例如,使用 DSU 方法按 *grade* 排序学生数据
>>> decorated = [(student.grade, i, student) for i, student in enumerate(student_objects)]
>>> decorated.sort()
>>> [student for grade, i, student in decorated] # undecorate
[('john', 'A', 15), ('jane', 'B', 12), ('dave', 'B', 10)]
这种惯用法之所以有效,是因为元组是按字典顺序比较的;首先比较第一个元素;如果它们相同,则比较第二个元素,依此类推。
在所有情况下,将索引 *i* 包含在装饰列表并不是绝对必要的,但包含它有以下两个好处
排序是稳定的 —— 如果两个项目具有相同的键,它们在排序列表中的顺序将得以保留。
原始项目不必是可比较的,因为装饰元组的顺序最多由前两个项目决定。因此,例如,原始列表可以包含不能直接排序的复数。
这种惯用法的另一个名称是 Schwartzian 变换,以 Randal L. Schwartz 命名,他在 Perl 程序员中推广了它。
现在 Python 排序提供了键函数,这种技术不再经常需要。
比较函数¶
与返回用于排序的绝对值的键函数不同,比较函数计算两个输入的相对顺序。
例如,一个 天平 比较两个样本,给出相对顺序:更轻、相等或更重。同样,像 cmp(a, b)
这样的比较函数对于小于会返回负值,如果输入相等则返回零,对于大于则返回正值。
在从其他语言翻译算法时,经常会遇到比较函数。此外,一些库将比较函数作为其 API 的一部分提供。例如,locale.strcoll()
就是一个比较函数。
为了适应这些情况,Python 提供了 functools.cmp_to_key
来包装比较函数,使其可以作为键函数使用
sorted(words, key=cmp_to_key(strcoll)) # locale-aware sort order
不可排序类型和值的策略¶
排序时可能会出现许多类型和值问题。以下是一些有用的策略
在排序之前将不可比较的输入类型转换为字符串
>>> data = ['twelve', '11', 10]
>>> sorted(map(str, data))
['10', '11', 'twelve']
这是必需的,因为大多数跨类型比较都会引发 TypeError
。
在排序之前移除特殊值
>>> from math import isnan
>>> from itertools import filterfalse
>>> data = [3.3, float('nan'), 1.1, 2.2]
>>> sorted(filterfalse(isnan, data))
[1.1, 2.2, 3.3]
这是必需的,因为 IEEE-754 标准 规定:“所有 NaN 都应与任何事物(包括自身)进行无序比较。”
同样,也可以从数据集中去除 None
>>> data = [3.3, None, 1.1, 2.2]
>>> sorted(x for x in data if x is not None)
[1.1, 2.2, 3.3]
这是必需的,因为 None
不能与其他类型进行比较。
在排序之前将映射类型转换为已排序的项列表
>>> data = [{'a': 1}, {'b': 2}]
>>> sorted(data, key=lambda d: sorted(d.items()))
[{'a': 1}, {'b': 2}]
这是必需的,因为 dict-to-dict 比较会引发 TypeError
。
在排序之前将集合类型转换为排序列表
>>> data = [{'a', 'b', 'c'}, {'b', 'c', 'd'}]
>>> sorted(map(sorted, data))
[['a', 'b', 'c'], ['b', 'c', 'd']]
这是必需的,因为集合类型中包含的元素没有确定的顺序。例如,list({'a', 'b'})
可能会产生 ['a', 'b']
或 ['b', 'a']
。
其他杂项¶
对于区域设置感知排序,将
locale.strxfrm()
用作键函数,或将locale.strcoll()
用作比较函数。这是必要的,因为即使底层字母表相同,“字母顺序”的排序方式在不同文化中也会有所不同。*reverse* 参数仍然保持排序稳定性(因此具有相同键的记录会保留原始顺序)。有趣的是,通过两次使用内置的
reversed()
函数,可以在不使用该参数的情况下模拟这种效果>>> data = [('red', 1), ('blue', 1), ('red', 2), ('blue', 2)] >>> standard_way = sorted(data, key=itemgetter(0), reverse=True) >>> double_reversed = list(reversed(sorted(reversed(data), key=itemgetter(0)))) >>> assert standard_way == double_reversed >>> standard_way [('red', 1), ('red', 2), ('blue', 1), ('blue', 2)]
排序例程在比较两个对象时使用
<
。因此,通过定义一个__lt__()
方法,可以轻松地为类添加一个标准排序顺序>>> Student.__lt__ = lambda self, other: self.age < other.age >>> sorted(student_objects) [('dave', 'B', 10), ('jane', 'B', 12), ('john', 'A', 15)]
然而,请注意,如果未实现
__lt__()
,<
可能会回退到使用__gt__()
(有关机制的详细信息,请参阅object.__lt__()
)。为避免意外,PEP 8 建议实现所有六个比较方法。total_ordering()
装饰器就是为了简化这项任务而提供的。键函数不必直接依赖于要排序的对象。键函数还可以访问外部资源。例如,如果学生成绩存储在字典中,它们可以用于对单独的学生姓名列表进行排序
>>> students = ['dave', 'john', 'jane'] >>> newgrades = {'john': 'F', 'jane':'A', 'dave': 'C'} >>> sorted(students, key=newgrades.__getitem__) ['jane', 'dave', 'john']
部分排序¶
某些应用程序只需要部分数据有序。标准库提供了几种比完全排序工作量更少的工具
heapq.nsmallest()
和heapq.nlargest()
分别返回 *n* 个最小和最大的值。这些函数对数据进行一次遍历,每次只在内存中保留 *n* 个元素。对于相对于输入数量较小的 *n* 值,这些函数比完全排序进行的比较次数少得多。heapq.heappush()
和heapq.heappop()
创建并维护数据的部分排序排列,使最小元素位于位置0
。这些函数适用于实现优先级队列,优先级队列通常用于任务调度。