python多线程详解(python多线程详解(超详细))

网友投稿 341 2022-08-28


python多线程详解(python多线程详解(超详细))

前言

①多线程类似于同时执行多个不同程序,多线程运行有如下优点:

②每个独立的线程有一个程序运行的入口、顺序执行序列和程序的出口。但是线程不能够独立执行,必须依存在应用程序中,由应用程序提供多个线程执行控制。

③每个线程都有他自己的一组CPU寄存器,称为线程的上下文,该上下文反映了线程上次运行该线程的CPU寄存器的状态。

④指令指针和堆栈指针寄存器是线程上下文中两个最重要的寄存器,线程总是在进程得到上下文中运行的,这些地址都用于标志拥有线程的进程地址空间中的内存。

线程可以被抢占(中断)。在其他线程正在运行时,线程可以暂时搁置(也称为睡眠) -- 这就是线程的退让。

⑤线程可以分为:

内核线程:由操作系统内核创建和撤销。用户线程:不需要内核支持而在用户程序中实现的线程。

⑥python3 线程中常用的两个模块为:

_thread threading (推荐使用)

【注意】

thread 模块已被废弃。用户可以使用 threading 模块代替。所以,在 Python3 中不能再使用 thread 模块。为了兼容性,Python3 将 thread 重命名为  _thread

线程和进程

进程和线程简单举例:

①进程:对于操作系统来说,一个任务就是一个进程(Process),比如打开一个浏览器就是启动一个浏览器进程.

②线程:有些进程还不止同时干一件事,比如Word,它可以同时进行打字、拼写检查、打印等事情。在一个进程内部,要同时干多件事,就需要同时运行多个《子任务》,我们把进程内的这些《子任务》称为线程(Thread)。

线程与进程的区别:

①简而言之,一个程序至少有一个进程;一个进程至少有一个线程。

②进程就是一个应用程序在处理机上的一次执行过程,它是一个动态的概念,而线程是进程中的一部分,进程包含多个线程在运行。

③多线程可以共享全局变量,多进程不能。多线程中,所有子线程的进程号相同;多进程中,不同的子进程进程号不同。

怎样理解线程:

线程可以是一个python程序,也可以是python文件里的一个函数。如果python程序或者函数开始执行了,你也可以说线程开始执行了。

并行和并发:

并行处理:是计算机系统中能同时执行两个或更多个处理的一种计算方法。并行处理可同时工作于同一程序的不同方面。并行处理的主要目的是节省大型和复杂问题的解决时间。

【①同个CPU,同一时间,执行多个线程;②多个CPU,同一时间,执行多个进程(进程与CPU一一对应)】

并发处理:指一个时间段内有几个程序都处于已启动运行到运行完毕之间,且这几个程序都是在同一个处理机(CPU)上运行,但是任意一个时刻点上只有一个程序在处理机(CPU)上运行。

【同个cpu,同一时间间隔(时间窗),执行多个线程】

总结:

python的多线程原理是并发

python多线程:在python中,同个CPU里同一时间点只能运行一个线程;为了数据安全,引入全局解释锁(GIL),相当于一张通行证;没有GIL的线程不进入CPU运行。

python多线程原理:一个程序运行,其他的程序不运行;当运行的线程需要等待的时候(如网络,IO等),该线程被挂起【通行证(GIL)被拿走】等待,其他线程竞争GIL;先拿到的GIL的线程先运行。

【挂起、竞争GIL的操作是由系统调度,不需要我们管;当线程挂起、竞争、另一个线程开始执行,这个过程会消耗一点时间,称为切换时间】

【若切换时间<等待时间,则多线程提高了效率;若切换时间与等待时间差不多,就没有什么必要使用python多线程了】

同步与异步

同步:指一个进程在执行某个请求的时候,若该请求需要一段时间才能返回信息,那么这个进程将会一直等待下去,直到收到返回信息才继续执行下去。

异步:指进程不需要一直等待下去,而是继续执行下面的操作,不管其他进程的状态,当有消息返回时系统会通知进程进行处理,这样可以提高执行效率。

主进程与子进程:

Threading.Thread封装的函数 == 子进程 ; 其他部分 == 主进程

子线程其实就是并发(同一时间段内执行多个操作)的任务;

这些任务一般都会写进一个函数func或者类里面,然后两步走,如下代码示例:

thread = Threading.Thread(target=函数func, args=(参数1,参数2))    #用Thread类包(封装)起来thread.start()  #start之后就开始跑了

setDaemon(Ture) :设置子进程为守护进程 ==  主进程关闭,子进程随即关闭【当你觉得一些线程不重要的时候,可以设置守护线程。】

Join() :设置阻塞 == 该子进程执行完才能执行主线程【当一些任务要先于另一些任务完成的时候,可以用】

对于非守护线程,就算主线程执行完了,也要等非守护进程完成才能退出

单线程:

在好些年前的MS-DOS时代,操作系统处理问题都是单任务的。比如我想做听音乐和看电影两件事儿,那么一定要先排一下顺序。

from time import ctime,sleepdef music(): for i in range(2): print "I was listening to music. %s" %ctime() sleep(1)def movie(): for i in range(2): print "I was at the movies! %s" %ctime() sleep(5)if __name__ == '__main__': music() movie() print "all over %s" %ctime()

我们先听了一首音乐,通过for循环来控制音乐的播放了两次,每首音乐播放需要1秒钟,sleep()来控制音乐播放的时长。接着我们又看了一场电影。

每一场电影需要5秒钟,因为太好看了,所以我也通过for循环看两遍。在整个休闲娱乐活动结束后,我通过 print "all over %s" %ctime() 看了一下当前时间,差不多该睡觉了。

运行结果:

>>=========================== RESTART ================================>>> I was listening to music. Thu Apr 17 10:47:08 2014I was listening to music. Thu Apr 17 10:47:09 2014I was at the movies! Thu Apr 17 10:47:10 2014I was at the movies! Thu Apr 17 10:47:15 2014all over Thu Apr 17 10:47:20 2014

其实,music()函数和move()函数更应该被看作是音乐和视频播放器,至于要播放什么歌曲和视频应该由我们使用时决定。

所以对上述代码进行适当改造:

#coding=utf-8import threadingfrom time import ctime,sleepdef music(func): for i in range(2): print "I was listening to %s. %s" %(func,ctime()) sleep(1)def move(func): for i in range(2): print "I was at the %s! %s" %(func,ctime()) sleep(5)if __name__ == '__main__': music(u'爱情买卖') move(u'阿凡达') print "all over %s" %ctime()

运行结果:

>>> ======================== RESTART ================================>>> I was listening to 爱情买卖. Thu Apr 17 11:48:59 2014I was listening to 爱情买卖. Thu Apr 17 11:49:00 2014I was at the 阿凡达! Thu Apr 17 11:49:01 2014I was at the 阿凡达! Thu Apr 17 11:49:06 2014all over Thu Apr 17 11:49:11 2014

多线程1:

Python中使用线程有两种方式:函数或者用类来包装线程对象。

1、函数式:调用 _thread  模块中的 start_new_thread() 函数来产生新线程。语法如下:

_thread.start_new_thread (function, args[, kwargs])

参数说明:

function - 线程函数。args - 传递给线程函数的参数,必须是个tuple类型。kwargs - 可选参数。

实例:

# -*- encoding:utf-8 -*-import _threadimport time# 为线程定义一个函数def print_time(threadName, delay): count = 0 while count < 5: time.sleep(delay) count += 1 print("%s: %s" % (threadName, time.ctime(time.time())))# 创建两个线程try: _thread.start_new_thread(print_time, ("Thread-1", 2,)) _thread.start_new_thread(print_time, ("Thread-2", 4,))except: print("Error: 无法启动线程")while 1: pass

运行结果:执行以上程后可以按下 ctrl-c 退出。

threading 线程模块

①Python3 通过两个标准库  _thread  和  threading  提供对线程的支持。

②_thread  提供了低级别的、原始的线程以及一个简单的锁,它相比于  threading 模块的功能还是比较有限的。

③ threading 模块除了包含  _thread  模块中的所有方法外,还提供的其他方法:

threading.currentThread() :返回当前的线程变量。threading.enumerate() : 返回一个包含正在运行的线程的列表list。正在运行指线程启动后、结束前,不包括启动前和终止后的线程。threading.activeCount() :返回正在运行的线程数量,与 len(threading.enumerate()) 有相同的结果。

除了使用方法外,线程模块同样提供了Thread类来处理线程,Thread类提供了以下方法:

run() :用以表示线程活动的方法。 start() :启动线程活动。 join([time]) :等待至线程中止。这阻塞调用线程直至线程的join() 方法被调用中止-正常退出或者抛出未处理的异常-或者是可选的超时发生。 isAlive() :返回线程是否活动的。 getName() :返回线程名。 setName() :设置线程名。

使用 threading 线程模块创建线程

我们可以通过直接从 threading.Thread  继承创建一个新的子类,并实例化后调用  start() 方法启动新线程;即它调用了threading线程模块中的Thread类中的 start() 方法:

import threadingimport timeexitFlag = 0class myThread(threading.Thread): def __init__(self, threadID, name, counter): threading.Thread.__init__(self) self.threadID = threadID self.name = name self.counter = counter def run(self): print("开始线程:" + self.name) print_time(self.name, self.counter, 5) print("退出线程:" + self.name)def print_time(threadName, delay, counter): while counter: if exitFlag: threadName.exit() time.sleep(delay) print("%s: %s" % (threadName, time.ctime(time.time()))) counter -= 1# 创建新线程thread1 = myThread(1, "Thread-1", 1)thread2 = myThread(2, "Thread-2", 2)# 开启新线程thread1.start()thread2.start()thread1.join()thread2.join()print("退出主线程")

运行结果:

线程同步

①如果多个线程共同对某个数据修改,则可能出现不可预料的结果,为了保证数据的正确性,需要对多个线程进行同步。

②使用 Thread 对象的  Lock 和  Rlock 可以实现简单的线程同步,这两个对象都有  acquire 方法和  release 方法,对于那些需要每次只允许一个线程操作的数据,可以将其操作放到  acquire 和  release 方法之间。如下:

③多线程的优势在于可以同时运行多个任务(至少感觉起来是这样)。但是当线程需要共享数据时,可能存在数据不同步的问题。

考虑这样一种情况:一个列表里所有元素都是0,线程"set"从后向前把所有元素改成1,而线程"print"负责从前往后读取列表并打印。

那么,可能线程"set"开始改的时候,线程"print"便来打印列表了,输出就成了一半0一半1,这就是数据的不同步。为了避免这种情况,引入了锁的概念。

④锁有两种状态——锁定和未锁定。每当一个线程比如"set"要访问共享数据时,必须先获得锁定;如果已经有别的线程比如"print"获得锁定了,那么就让线程"set"暂停,也就是同步阻塞;等到线程"print"访问完毕,释放锁以后,再让线程"set"继续。

经过这样的处理,打印列表时要么全部输出0,要么全部输出1,不会再出现一半0一半1的尴尬场面。

实例:

import threadingimport timeclass myThread (threading.Thread): def __init__(self, threadID, name, counter): threading.Thread.__init__(self) self.threadID = threadID self.name = name self.counter = counter def run(self): print ("开启线程: " + self.name) # 获取锁,用于线程同步 threadLock.acquire() print_time(self.name, self.counter, 3) # 释放锁,开启下一个线程 threadLock.release()def print_time(threadName, delay, counter): while counter: time.sleep(delay) print ("%s: %s" % (threadName, time.ctime(time.time()))) counter -= 1threadLock = threading.Lock()threads = []# 创建新线程thread1 = myThread(1, "Thread-1", 1)thread2 = myThread(2, "Thread-2", 2)# 开启新线程thread1.start()thread2.start()# 添加线程到线程列表threads.append(thread1)threads.append(thread2)# 等待所有线程完成for t in threads: t.join()print ("退出主线程")

运行结果:

线程优先级队列( Queue)

Python 的  Queue 模块中提供了同步的、线程安全的队列类,包括FIFO(先入先出)队列Queue,LIFO(后入先出)队列LifoQueue,和优先级队列 PriorityQueue。

这些队列都实现了锁原语,能够在多线程中直接使用,可以使用队列来实现线程间的同步。

Queue 模块中的常用方法:

Queue.qsize():返回队列的大小Queue.empty():如果队列为空,返回True,反之FalseQueue.full():如果队列满了,返回True,反之FalseQueue.full 与 maxsize 大小对应Queue.get([block[, timeout]]):获取队列,timeout等待时间Queue.get_nowait():相当Queue.get(False)Queue.put(item):写入队列,timeout等待时间Queue.put_nowait(item):相当Queue.put(item, False)Queue.task_done():在完成一项工作之后,Queue.task_done()函数向任务已经完成的队列发送一个信号Queue.join():实际上意味着等到队列为空,再执行别的操作

实例:

import queueimport threadingimport timeexitFlag = 0class myThread (threading.Thread): def __init__(self, threadID, name, q): threading.Thread.__init__(self) self.threadID = threadID self.name = name self.q = q def run(self): print ("开启线程:" + self.name) process_data(self.name, self.q) print ("退出线程:" + self.name)def process_data(threadName, q): while not exitFlag: queueLock.acquire() if not workQueue.empty(): data = q.get() queueLock.release() print ("%s processing %s" % (threadName, data)) else: queueLock.release() time.sleep(1)threadList = ["Thread-1", "Thread-2", "Thread-3"]nameList = ["One", "Two", "Three", "Four", "Five"]queueLock = threading.Lock()workQueue = queue.Queue(10)threads = []threadID = 1# 创建新线程for tName in threadList: thread = myThread(threadID, tName, workQueue) thread.start() threads.append(thread) threadID += 1# 填充队列queueLock.acquire()for word in nameList: workQueue.put(word)queueLock.release()# 等待队列清空while not workQueue.empty(): pass# 通知线程是时候退出exitFlag = 1# 等待所有线程完成for t in threads: t.join()print ("退出主线程")

运行结果:

多线程2

科技在发展,时代在进步,我们的CPU也越来越快,CPU抱怨,P大点事儿占了我一定的时间,其实我同时干多个活都没问题的;于是,操作系统就进入了多任务时代。我们听着音乐吃着火锅的不在是梦想。

继续对上面的例子进行改造,引入threadring来同时播放音乐和视频:

#coding=utf-8import threadingfrom time import ctime,sleepdef music(func): for i in range(2): print "I was listening to %s. %s" %(func,ctime()) sleep(1)def move(func): for i in range(2): print "I was at the %s! %s" %(func,ctime()) sleep(5)threads = []t1 = threading.Thread(target=music,args=(u'爱情买卖',))threads.append(t1)t2 = threading.Thread(target=move,args=(u'阿凡达',))threads.append(t2)if __name__ == '__main__': for t in threads: t.setDaemon(True) t.start() print "all over %s" %ctime()

运行结果:

>>> ========================= RESTART ================================>>> I was listening to 爱情买卖. Thu Apr 17 12:51:45 2014 I was at the 阿凡达! Thu Apr 17 12:51:45 2014 all over Thu Apr 17 12:51:45 2014

从执行结果来看,子线程(muisc() 、movie() )和主线程(print "all over %s" %ctime())都是同一时间启动,但由于主线程执行完结束,所以导致子线程也终止。

继续调整程序:

...if __name__ == '__main__': for t in threads: t.setDaemon(True) t.start() for t in threads: t.join() print "all over %s" %ctime()

我们只对上面的程序加了个join()方法,用于等待线程终止。

join()的作用是,在子线程完成运行之前,这个子线程的父线程将一直被阻塞。

注意:  join()方法的位置是在for循环外的,也就是说必须等待for循环里的两个进程都结束后,才去执行主进程。

运行结果:

>>> ========================= RESTART ================================>>> I was listening to 爱情买卖. Thu Apr 17 13:04:11 2014 I was at the 阿凡达! Thu Apr 17 13:04:11 2014I was listening to 爱情买卖. Thu Apr 17 13:04:12 2014I was at the 阿凡达! Thu Apr 17 13:04:16 2014all over Thu Apr 17 13:04:21 2014

从执行结果可看到,music() 和movie() 是同时启动的。

开始时间4分11秒,直到调用主进程为4分22秒,总耗时为10秒。从单线程时减少了2秒,我们可以把music的sleep()的时间调整为4秒。

...def music(func): for i in range(2): print "I was listening to %s. %s" %(func,ctime()) sleep(4)...

执行结果:

>>> ====================== RESTART ================================>>> I was listening to 爱情买卖. Thu Apr 17 13:11:27 2014I was at the 阿凡达! Thu Apr 17 13:11:27 2014I was listening to 爱情买卖. Thu Apr 17 13:11:31 2014I was at the 阿凡达! Thu Apr 17 13:11:32 2014all over Thu Apr 17 13:11:37 2014

子线程启动11分27秒,主线程运行11分37秒。

虽然music每首歌曲从1秒延长到了4 ,但通多程线的方式运行脚本,总的时间没变化。

详细解释:

去期待陌生,去拥抱惊喜。


版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:python操作mysql之pymysql(mysql-python)
下一篇:Java执行cmd命令的举例与注意事项
相关文章

 发表评论

暂时没有评论,来抢沙发吧~