python 实现I/O多路复用

AI权益加码!Claude Code、Cursor等20+工具免费用! 购周边限时加赠Coding Plan Lite,畅享主流AI工具!学习进阶更高效! 阅读详情
前言

作为一个服务器,肯定要满足多个客户端同时访问,在python中,可以有三种模型满足这种要求,分别是:循环服务模型、多进程/多线程模型,I/O并发模型。在这里,我们就探讨一下如何使用I/O多路复用实现I/O并发

I/O多路复用

定义:操作系统同时监控多个I/O,当哪个I/O准备就绪就执行哪个I/o,避免因为一个I/O阻塞而造成其他不相关I/O无法执行,提高效率
实现方式:python3中提供三种实现I/O多路复用的方式,分别是select,poll,epoll,总体来说,epoll的执行效率最高,且支持的I/O数量与poll持平都大于select,且支持边缘触发和水平触发两种方式
python3实现代码
通过select实现I/O多路复用

from select import select
from socket import socket
s = socket()
s.setsockopt(SOL_SOCKET, SO_REUSEADDR, 1)
s.bind(('0.0.0.0', 9000))
s.listen(5)
rlist = [s]
wlist = []
xlist = []
while True:
	rs, ws, xs = select(rlist, wlist, xlist)
	for r in rs:
		if r is s:
			c, addr = s.accept()
			rlist.append(c)
		else:
			data = r.recv(1024).decode()
			print(data)
			if not data:
				c.close()
				rlist.remove(r)
				continue
			wlist.append(r)
	for w in ws:
		w.send(b'OK')
		ws.remove(w)

通过poll实现I/O多路复用

from socket import socket
from select import Poll
s = socket()
s.setsockopt(SOL_SOCKET, SO_REUSEADDR, 1)
s.bind(('0.0.0.0', 9000))
s.listen(5)
p = Poll()
p.register(s,POLLIN|POLLOUT)
dic = {s.fileno(): s}
while True:
	events = p.poll()
	for filenumber, event in events:
		if filenumber == s.fileno():
			c, addr = s.accept()
			p.register(c, POLLIN|POLLOUT)
			dic[c.fileno()] = c
		else:
			data = dic[filenumber].recv(1024).decode()
			if not data:
				p.unregster(dic[filenumber])
				dic[filenumber].close()
				del dic[filenumber]
				continue
			dic[filenumber].send(b'ok')

通过epoll实现I/O多路复用

from socket import socket
from select import EPoll
s = socket()
s.setsockopt(SOL_SOCKET, SO_REUSEADDR, 1)
s.bind(('0.0.0.0', 9000))
s.listen(5)
p = EPoll()
p.register(s,EPOLLIN|EPOLLOUT)
dic = {s.fileno(): s}
while True:
	events = p.poll()
	for filenumber, event in events:
		if filenumber == s.fileno():
			c, addr = s.accept()
			p.register(c, EPOLLIN|EPOLLOUT)
			dic[c.fileno()] = c
		else:
			data = dic[filenumber].recv(1024).decode()
			if not data:
				p.unregster(dic[filenumber])
				dic[filenumber].close()
				del dic[filenumber]
				continue
			dic[filenumber].send(b'ok')
深入探索 Python 的 `selectors` 模块:I/O 多路复用的基石 selectors模块是 Python 标准库中一个强大且底层的工具,用于实现。在现代网络编程中,尤其是在构建高性能并发服务器时,它扮演着至关重要的角色。简而言之,它允许单个程序,并在任何通道准备好进行读写操作时得到通知,而无需为每个通道分配一个独立的线程或进程。 阅读详情

相关推荐

Python高频面试题 - 多线程、多进程和协程的区别 + IO多路复用的作用 + 并发和并行 + 异步非阻塞

Python高频面试题 - 多线程、多进程和协程的区别 + IO多路复用的作用 + 并发和并行 + 异步非阻塞

孤寒者的博客 2万+

详解Python IO口多路复用

主要介绍了Python IO口多路复用的的相关资料,文中讲解的非常细致,帮助大家更好的理解和学习,感兴趣的朋友可以参考下

python3多进程多线程协程IO多路复用

python并发进行的笔记整理,个人所学习使用,主要包括多进程,多线程,协程,IO多路复用,进程线程通信等

Python-IO多路复用

Python实现 IO 多路复用

蓝魔的博客 1126

python笔记(十九):IO多路复用

传统的编程是如下线性模式的:开始—>代码块A—>代码块B—>代码块C—>代码块D—>…—>结束每一个代码块里是完成各种各样事情的代码,但编程者知道代码块A,B,C,D…的执行顺序,唯一能够改变这个流程的是数据。输入不同的数据,根据条件语句判断,流程或许就改为A—>C—>E…—>结束。每一次程序运行顺序或许都不同,但它的控制流程是由输入数据和你编写的程序决定的。如果你知道这个程序当前的运行状态(包括输入数据和程序本身),那你就知道接下来甚至一直到结束它的运行流程。

baikai666的博客 748

Python中,什么是I/O多路复用

【代码】在Python中,什么是I/O多路复用

HelloFif的博客 607

2024年python开发之IO多路复用_python io多路复用原理与实现(2),2024年最新2024Python开发面试解答之设计模式篇

一旦kernel中的数据准备好了,并且又再次收到了用户进程的system call,那么它马上就将数据拷贝到了用户内存(这一阶段仍然是阻塞的),然后返回。当用户进程调用了select,那么整个进程会被block,而同时,kernel会“监视”所有select负责的socket,当任何一个socket中的数据准备好了,select就会返回。Python所有方向路线就是把Python常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

2401_84139587的博客 612

I/O多路复用python实现epoll过程逐步解释

I/O多路复用机制是指一个线程兼顾地同时处理多个IO流,详细来说就是在只有一个线程的i情况下,I/O多路复用允许内核中同时存在多个监听套接字(listening socket)和已连接套接字(connected socket),内核会持续监听这些套接字,一旦接收到某套接字的连接请求或数据等,就会将这个事件交给主线程去处理,不同于一个线程阻塞的监听等待一个套接字,I/O多路复用的方式实现了一个线程同时可以处理多个IO流的效果。前面说到了epoll改进了select的三个缺点,没有具体细说,这里继续解释。

Moelimoe的博客 768

python的I/O多路复用实现

IO多路复用socketServer 利用IO多路复用写一个socketServer,大多数情况下机几乎很难用到,因为有许许多多模块和框架已经为我们封装好了,简单了解一下底层的实践即可. 代码实现如下: import select import socket import queue #创建socket连接 server = socket.socket() server.bind(('loc...

qq_43608549的博客 451

Python语言: I/O多路复用的概念及实现方式

转自:微点阅读https://www.weidianyuedu.com 一、I/O多路复用概念: 监听多个描述符的状态,如果描述符状态改变,则会被内核修改标志位,从而被进程获取进而进行读写操作 二、select,poll,epoll select模块,提供了:select、poll、epoll三个方法,分别调用系统的 select,poll,epoll 从而实现IO多路复用。 Windows Python:提供: select Mac Python:提供: select Linux P..

ysds20211402的博客 175

python的io多路复用_Python select实现I/O多路复用和读写分离

下面的实例代码演示了使用 select 模拟多线程并实现读/写分离的过程。1)看文件 fenliser.py 是否实现了服务器端的功能。具体实现代码如下。#使用socket模拟多线程,让多用户可以同时连接import socketimport selectsk1 = socket.socket()sk1.bind(('0.0.0.0', 8000))sk1.listen()inputs = [sk...

weixin_39552037的博客 190

python3 利用socket和i/o多路复用实现简易群聊服务器

服务端 import socket import select # i/o复用实例,利用操作系统对i/o流的阻塞,单线程多人群聊服务器 ss = socket.socket(socket.AF_INET, socket.SOCK_STREAM) ss.bind(('127.0.0.1', 5985)) ss.listen(10) readlist = [ss] # 读监听列表,ss是服务...

qwe123_asd的博客 294

Python I/O多路复用

I/O多路复用I/O多路复用是用于提升效率,单个进程可以同时监听多个网络连接IOI/O是指Input/OutputI/O多路复用,通过一种机制,可以监视多个文件描述符,一旦描述符就绪(读就绪和写就绪),能通知程序进行相应的读写操作。I/O多路复用避免阻塞在io上,原本为多进程或多线程来接收多个连接的消息变为单进程或单线程保存多个socket的状态后轮询处理.selectselect是通过系统调用来监

Moxiao__墨箫 686

Python教程:精简概述I/O模型与I/O操作

Python教程:精简概述I/O模型与I/O操作 一. I/O 模型 1. 特指 Linux 下的网络 IO,一般分类: 阻塞IO(blocking IO) 非阻塞IO(non-blocking IO) IO多路复用(IO multiplexing) 信号驱动IO(signal driven IO) 异步IO(asynchronous IO) 2. 一个网络 I/O 涉及两个系统对象: 应用进程(Process/Thread) 系统内核(Kernel) 3. 一个 read 操作会经历两个

码蝗的博客 387

Linux系统编程——I/O多路复用select、poll、epoll

参考:https://segmentfault.com/a/1190000003063859 Linux下的I/O复用与epoll详解:https://www.cnblogs.com/lojunren/p/3856290.html 彻底学会 epoll 系列:http://blog.chinaunix.net/uid/28541347/sid-193117-list-1.htm Linux下I/O...

雪雪 685

Python中IO多路复用

I/O(input/output),即输入/输出端口。每个设备都会有一个专用的I/O地址,用来处理自己的输入输出信息首先什么是I/O:I/O分为磁盘io和网络io,这里说的是网络ioIO多路复用:I/O多路复用指:通过一种机制,可以监视多个描述符(socket),一旦某个描述符就绪(一般是读就绪或者写就绪),能够通知程序进行相应的读写操作。LinuxLinux中的 select,poll,epol...

qq_36126849的博客 784

python3-I/O模型

I/O模型的介绍、阻塞I/O模型、非阻塞I/O、I/O多路复用模型、异步I/O模型

花城的博客 314

I/O模型的使用

阻塞I/O 1.定义:在执行IO操作时如果执行条件不满足则阻塞。阻塞IO是IO的默认形态。   * 有那些I/O操作: 文件读写, 网络传输  * 阻塞: 进程由执行态进入阻塞态 2.效率:阻塞IO是效率很低的一种IO。但是由于逻辑简单所以是默认IO行为。 3.阻塞情况:   * 因为某种执行条件没有满...

158

IO多路复用——select,poll,epoll的概念和使用

模型适用场景select跨平台简单应用,连接数较少(< 1000)。poll需要支持更多连接,但无需高性能的非 Linux 环境。epollLinux 高并发场景(如 Web 服务器、实时系统)。性能排序epollpoll≈select(高并发下差异显著)。编程复杂度selectpollepoll(需处理事件模式)。

demonlg0112的博客 745
上一篇: 进程间通信及python实现
下一篇: 解决windows安装cvxpy报错——error: microsoft visual c++ 14.0 is required
Fire_Pot
博客等级 码龄7年 0粉丝 12原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值