100个最全的免费网站,制作网站需要学什么软件有哪些内容,网站自动加水印,wordpress彻底禁用googlePython 最难的问题 超过十年以上#xff0c;没有比解释器全局锁#xff08;GIL#xff09;让Python新手和专家更有挫折感或者更有好奇心。 未解决的问题 随处都是问题。难度大、耗时多肯定是其中一个问题。仅仅是尝试解决这个问题就会让人惊讶。之前是整个社区的尝试#x…Python 最难的问题 超过十年以上没有比解释器全局锁GIL让Python新手和专家更有挫折感或者更有好奇心。 未解决的问题 随处都是问题。难度大、耗时多肯定是其中一个问题。仅仅是尝试解决这个问题就会让人惊讶。之前是整个社区的尝试但现在只是外围的开发人员在努力。对于新手去尝试解决这样的问题主要是因为问题难度足够大解决之后可以获得相当的荣誉。计算机科学中未解决的 P NP 就是这样的问题。对此如果能给出多项式时间复杂度的答案那简直就可以改变世界了。Python最困难的问题比证明P NP要容易一些不过迄今仍然没有一个满意的解决要知道这个问题的实用的解决方案同样能起着变革性的作用。正因为如此很容易看到Python社区会有如此多的人关注于这样的问题: 对于解释器全局锁能做什么? Python的底层 要理解GIL的含义我们需要从Python的基础讲起。像C这样的语言是编译型语言所谓编译型语言是指程序输入到编译器编译器再根据语言的语法进行解析然后翻译成语言独立的中间表示最终链接成具有高度优化的机器码的可执行程序。编译器之所以可以深层次的对代码进行优化是因为它可以看到整个程序或者一大块独立的部分。这使得它可以对不同的语言指令之间的交互进行推理从而给出更有效的优化手段。 与此相反Python是解释型语言。程序被输入到解释器来运行。解释器在程序执行之前对其并不了解它所知道的只是Python的规则以及在执行过程中怎样去动态的应用这些规则。它也有一些优化但是这基本上只是另一个级别的优化。由于解释器没法很好的对程序进行推导Python的大部分优化其实是解释器自身的优化。更快的解释器自然意味着程序的运行也能“免费”的更快。也就是说解释器优化后Python程序不用做修改就可以享受优化后的好处。 这一点很重要让我们再强调一下。如果其他条件不变Python程序的执行速度直接与解释器的“速度”相关。不管你怎样优化自己的程序你的程序的执行速度还是依赖于解释器执行你的程序的效率。这就很明显的解释了为什么我们需要对优化Python解释器做这么多的工作了。对于Python程序员来说这恐怕是与免费午餐最接近的了。 免费午餐结束了 还是没有结束摩尔定律给出了硬件速度会按照确定的时间周期增长与此同时整整一代程序员学会了如何编码。如果一个人写了比较慢的代码最简单的结果通常是更快的处理器去等待代码的执行。显然摩尔定律仍然是正确的并且还会在很长一段时间生效不过它提及的方式有了根本的变化。并非是时钟频率增长到一个高不可攀的速度而是通过多核来利用晶体管密度提高带来的好处。在新处理器上运行的程序要想充分利用其性能必须按照并发方式进行重写。 大部分开发者听到“并发”通常会立刻想到多线程的程序。目前来说多线程执行还是利用多核系统最常用的方式。尽管多线程编程大大好于“顺序”编程不过即便是仔细的程序员也没法在代码中将并发性做到最好。编程语言在这方面应该做的更好大部分应用广泛的现代编程语言都会支持多线程编程。 意外的事实 现在我们来看一下问题的症结所在。要想利用多核系统Python必须支持多线程运行。作为解释型语言Python的解释器必须做到既安全又高效。我们都知道多线程编程会遇到的问题。解释器要留意的是避免在不同的线程操作内部共享的数据。同时它还要保证在管理用户线程时保证总是有最大化的计算资源。 那么不同线程同时访问时数据的保护机制是怎样的呢答案是解释器全局锁。从名字上看能告诉我们很多东西很显然这是一个加在解释器上的全局从解释器的角度看锁从互斥或者类似角度看。这种方式当然很安全但是它有一层隐含的意思Python初学者需要了解这个对于任何Python程序不管有多少的处理器任何时候都总是只有一个线程在执行。 许多人都是偶然发现这个事实的。网上的很多讨论组和留言板都充斥着来自Python初学者和专家的类似这样的问题——”为什么我全新的多线程Python程序运行得比其只有一个线程的时候还要慢“许多人在问这个问题时还是非常犯晕的因为显然一个具有两个线程的程序要比其只有一个线程时要快假设该程序确实是可并行的。事实上这个问题被问得如此频繁以至于Python的专家们精心制作了一个标准答案”不要使用多线程请使用多进程。“但这个答案比那个问题更加让人困惑。难道我不能在Python中使用多线程在Python这样流行的一个语言中使用多线程究竟是有多糟糕连专家都建议不要使用。难道我真的漏掉了一些东西 很遗憾没有任何东西被漏掉。由于Python解释器的设计使用多线程以提高性能应该算是一个困难的任务。在最坏的情况下它将会降低有时很明显你的程序的运行速度。一个计算机科学与技术专业的大学生新手可能会告诉你当多个线程都在竞争一个共享资源时将会发生什么。结果通常不会非常理想。很多情况下多线程都能很好地工作可能对于解释器的实现和内核开发人员来说没有关于Python多线程性能的过多抱怨。 现在该怎么办惊慌 那么这又能怎样问题解决了吗难道我们作为Python开发人员就意味着要放弃使用多线程来探索并行的想法了为什么无论怎样GIL需要保证只有一个线程在某一时刻处于运行中难道不可以添加细粒度的锁来阻止多个独立对象的同时访问并且为什么之前没有人去尝试过类似的事情 这些实用的问题有着十分有趣的回答。GIL对诸如当前线程状态和为垃圾回收而用的堆分配对象这样的东西的访问提供着保护。然而这对Python语言来说没什么特殊的它需要使用一个GIL。这是该实现的一种典型产物。现在也有其它的Python解释器和编译器并不使用GIL。虽然对于CPython来说自其出现以来已经有很多不使用GIL的解释器。 那么为什么不抛弃GIL呢许多人也许不知道在1999年针对Python 1.5一个经常被提到但却不怎么理解的“free threading”补丁已经尝试实现了这个想法该补丁来自Greg Stein。在这个补丁中GIL被完全的移除且用细粒度的锁来代替。然而GIL的移除给单线程程序的执行速度带来了一定的代价。当用单线程执行时速度大约降低了40%。使用两个线程展示出了在速度上的提高但除了这个提高这个收益并没有随着核数的增加而线性增长。由于执行速度的降低这一补丁被拒绝了并且几乎被人遗忘。 移除GIL非常困难让我们去购物吧 译者注XXX is hard. Lets go shopping!在英语中类似于中文的咆哮体。其隐含意思为想成功完成某件事情非常困难我们去直接寻找第三方的产品替代吧。 不过“free threading”这个补丁是有启发性意义的其证明了一个关于Python解释器的基本要点移除GIL是非常困难的。由于该补丁发布时所处的年代解释器变得依赖更多的全局状态这使得想要移除当今的GIL变得更加困难。值得一提的是也正是因为这个原因许多人对于尝试移除GIL变得更加有兴趣。困难的问题往往很有趣。 但是这可能有点被误导了。让我们考虑一下如果我们有了一个神奇的补丁其移除了GIL并且没有对单线程的Python代码产生性能上的下降那么什么事情将会发生我们将会获得我们一直想要的一个线程API可能会同时利用所有的处理器。那么现在我们已经获得了我们希望的但这确实是一个好事吗 基于线程的编程毫无疑问是困难的。每当某个人觉得他了解关于线程是如何工作的一切的时候总是会悄无声息的出现一些新的问题。因为在这方面想要得到正确合理的一致性真的是太难了因此有一些非常知名的语言设计者和研究者已经总结得出了一些线程模型。就像某个写过多线程应用的人可以告诉你的一样不管是多线程应用的开发还是调试都会比单线程的应用难上数倍。程序员通常所具有的顺序执行的思维模恰恰就是与并行执行模式不相匹配。GIL的出现无意中帮助了开发者免于陷入困境。在使用多线程时仍然需要同步原语的情况下GIL事实上帮助我们保持不同线程之间的数据一致性问题。 那么现在看起来讨论Python最难得问题是有点问错了问题。我们有非常好的理由来说明为什么Python专家推荐我们使用多进程代替多线程而不是去试图隐藏Python线程实现的不足。更进一步我们鼓励开发者使用更安全更直接的方式实现并发模型同时保留使用多线程进行开发除非你觉的真的非常必要的话。对于大多数人来说什么是最好的并行编程模型可能并不是十分清楚。但是目前我们清楚的是多线程的方式可能并不是最好的。 至于GIL不要认为它在那的存在就是静态的和未经分析过的。Antoine Pitrou 在Python 3.2中实现了一个新的GIL并且带着一些积极的结果。这是自1992年以来GIL的一次最主要改变。这个改变非常巨大很难在这里解释清楚但是从一个更高层次的角度来说旧的GIL通过对Python指令进行计数来确定何时放弃GIL。这样做的结果就是单条Python指令将会包含大量的工作即它们并没有被1:1的翻译成机器指令。在新的GIL实现中用一个固定的超时时间来指示当前的线程以放弃这个锁。在当前线程保持这个锁且当第二个线程请求这个锁的时候当前线程就会在5ms后被强制释放掉这个锁这就是说当前线程每5ms就要检查其是否需要释放这个锁。当任务是可行的时候这会使得线程间的切换更加可预测。 然而这并不是一个完美的改变。对于在各种类型的任务上有效利用GIL这个领域里最活跃的研究者可能就是David Beazley了。除了对Python 3.2之前的GIL研究最深入他还研究了这个最新的GIL实现并且发现了很多有趣的程序方案。对于这些程序即使是新的GIL实现其表现也相当糟糕。他目前仍然通过一些实际的研究和发布一些实验结果来引领并推进着有关GIL的讨论。 不管某一个人对Python的GIL感觉如何它仍然是Python语言里最困难的技术挑战。想要理解它的实现需要对操作系统设计、多线程编程、C语言、解释器设计和CPython解释器的实现有着非常彻底的理解。单是这些所需准备的就妨碍了很多开发者去更彻底的研究GIL。虽然如此并没有迹象表明GIL在不久以后的任何一段时间内会远离我们。目前它将继续给那些新接触Python并且与此同时又对解决非常困难的技术问题感兴趣的人带来困惑和惊喜。 以上内容是基于我目前对Python解释器所做出的研究而写。虽然我还希望写一些有关解释器的其它方面内容但是没有任何一个比全局解释器锁GIL更为人所知。虽然我认为这里有些内容是不准确的但是这些技术上的细节与CPython的很多资源条目是不同的。如果你发现了不准确的内容请及时告知我这样我就会尽快对其进行改正。 原文链接https://www.oschina.net/translate/pythons-hardest-problem 识别图中二维码,领取python全套视频资料转载于:https://www.cnblogs.com/IT-Scavenger/p/9642562.html
