91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

居然有比requests更強(qiáng)大Python庫(kù)出現(xiàn)

阿銘linux ? 來(lái)源:努力編程小伙 ? 作者:努力編程小伙 ? 2021-07-27 10:43 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

最近公司 Python 后端項(xiàng)目進(jìn)行重構(gòu),整個(gè)后端邏輯基本都變更為采用“異步”協(xié)程的方式實(shí)現(xiàn)??粗鴿M(mǎn)屏幕經(jīng)過(guò) async await(協(xié)程在 Python 中的實(shí)現(xiàn))修飾的代碼,我頓時(shí)感到一臉懵逼,不知所措。

雖然之前有了解過(guò)“協(xié)程”是什么東西,但并沒(méi)有深入探索,于是正好借著這次機(jī)會(huì)可以好好學(xué)習(xí)一下。

什么是協(xié)程?

簡(jiǎn)單來(lái)說(shuō),協(xié)程是一種基于線程之上,但又比線程更加輕量級(jí)的存在。對(duì)于系統(tǒng)內(nèi)核來(lái)說(shuō),協(xié)程具有不可見(jiàn)的特性,所以這種由 程序員自己寫(xiě)程序來(lái)管理 的輕量級(jí)線程又常被稱(chēng)作 “用戶(hù)空間線程”。

協(xié)程比多線程好在哪呢?

1. 線程的控制權(quán)在操作系統(tǒng)手中,而 協(xié)程的控制權(quán)完全掌握在用戶(hù)自己手中,因此利用協(xié)程可以減少程序運(yùn)行時(shí)的上下文切換,有效提高程序運(yùn)行效率。

2. 建立線程時(shí),系統(tǒng)默認(rèn)分配給線程的 棧 大小是 1 M,而協(xié)程更輕量,接近 1 K 。因此可以在相同的內(nèi)存中開(kāi)啟更多的協(xié)程。

3. 由于協(xié)程的本質(zhì)不是多線程而是單線程,所以不需要多線程的鎖機(jī)制。因?yàn)橹挥幸粋€(gè)線程,也不存在同時(shí)寫(xiě)變量而引起的沖突。在協(xié)程中控制共享資源不需要加鎖,只需要判斷狀態(tài)即可。所以協(xié)程的執(zhí)行效率比多線程高很多,同時(shí)也有效避免了多線程中的競(jìng)爭(zhēng)關(guān)系。

協(xié)程的適用 & 不適用場(chǎng)景

適用場(chǎng)景:協(xié)程適用于被阻塞的,且需要大量并發(fā)的場(chǎng)景。

不適用場(chǎng)景:協(xié)程不適用于存在大量計(jì)算的場(chǎng)景(因?yàn)閰f(xié)程的本質(zhì)是單線程來(lái)回切換),如果遇到這種情況,還是應(yīng)該使用其他手段去解決。

初探異步 http 框架 httpx

至此我們對(duì) “協(xié)程” 應(yīng)該有了個(gè)大概的了解,但故事說(shuō)到這里,相信有朋友還是滿(mǎn)臉疑問(wèn):“協(xié)程” 對(duì)于接口測(cè)試有什么幫助呢?不要著急,答案就在下面。

相信用過(guò) Python 做接口測(cè)試的朋友都對(duì) requests 庫(kù)不陌生。requests 中實(shí)現(xiàn)的 http 請(qǐng)求是同步請(qǐng)求,但其實(shí)基于 http 請(qǐng)求 IO 阻塞的特性,非常適合用協(xié)程來(lái)實(shí)現(xiàn) “異步” http 請(qǐng)求從而提升測(cè)試效率。

相信早就有人注意到了這點(diǎn),于是在 Github 經(jīng)過(guò)了一番探索后,果不其然,最終尋找到了支持協(xié)程 “異步” 調(diào)用 http 的開(kāi)源庫(kù): httpx

什么是 httpx

httpx 是一個(gè)幾乎繼承了所有 requests 的特性并且支持 “異步” http 請(qǐng)求的開(kāi)源庫(kù)。簡(jiǎn)單來(lái)說(shuō),可以認(rèn)為 httpx 是強(qiáng)化版 requests。

下面大家可以跟著我一起見(jiàn)識(shí)一下 httpx 的強(qiáng)大

安裝

httpx 的安裝非常簡(jiǎn)單,在 Python 3.6 以上的環(huán)境執(zhí)行

pip install httpx

最佳實(shí)踐

俗話說(shuō)得好,效率決定成敗。我分別使用了 httpx 異步 和 同步 的方式對(duì)批量 http 請(qǐng)求進(jìn)行了耗時(shí)比較,來(lái)一起看看結(jié)果吧~

首先來(lái)看看同步 http 請(qǐng)求的耗時(shí)表現(xiàn):

import asyncioimport httpximport threadingimport time

def sync_main(url, sign): response = httpx.get(url).status_code print(f‘sync_main: {threading.current_thread()}: {sign}: {response}’)

sync_start = time.time()[sync_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]sync_end = time.time()print(sync_end - sync_start)

代碼比較簡(jiǎn)單,可以看到在 sync_main 中則實(shí)現(xiàn)了同步 http 訪問(wèn)百度 200 次。

運(yùn)行后輸出如下(截取了部分關(guān)鍵輸出。。。):

sync_main: 《_MainThread(MainThread, started 4471512512)》: 192: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 194: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 195: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 196: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 197: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 198: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 199: 20016.56578803062439

可以看到在上面的輸出中, 主線程沒(méi)有進(jìn)行切換(因?yàn)楸緛?lái)就是單線程啊喂!)請(qǐng)求按照順序執(zhí)行(因?yàn)槭峭秸?qǐng)求)。

程序運(yùn)行共耗時(shí) 16.6 秒

下面我們?cè)囋?“異步” http 請(qǐng)求:

import asyncioimport httpximport threadingimport time

client = httpx.AsyncClient()

async def async_main(url, sign): response = await client.get(url) status_code = response.status_code print(f‘a(chǎn)sync_main: {threading.current_thread()}: {sign}:{status_code}’)

loop = asyncio.get_event_loop()tasks = [async_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]async_start = time.time()loop.run_until_complete(asyncio.wait(tasks))async_end = time.time()loop.close()print(async_end - async_start)

上述代碼在 async_main 中用 async await 關(guān)鍵字實(shí)現(xiàn)了“異步” http,通過(guò) asyncio ( 異步 io 庫(kù)請(qǐng)求百度首頁(yè) 200 次并打印出了耗時(shí)。

運(yùn)行代碼后可以看到如下輸出(截取了部分關(guān)鍵輸出。。。)

async_main: 《_MainThread(MainThread, started 4471512512)》: 56: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 99: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 67: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 93: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 125: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 100: 2004.518340110778809

可以看到順序雖然是亂的(56,99,67.。。) (這是因?yàn)槌绦蛟趨f(xié)程間不停切換) 但是主線程并沒(méi)有切換 (協(xié)程本質(zhì)還是單線程 )。

程序共耗時(shí) 4.5 秒

比起同步請(qǐng)求耗時(shí)的 16.6 秒 縮短了接近 73 %!

俗話說(shuō)得好,一步快,步步快。 在耗時(shí)方面,“異步” http 確實(shí)比同步 http 快了很多。當(dāng)然,“協(xié)程” 不僅僅能在請(qǐng)求效率方面賦能接口測(cè)試, 掌握 “協(xié)程”后,相信小伙伴們的技術(shù)水平也能提升一個(gè)臺(tái)階,從而設(shè)計(jì)出更優(yōu)秀的測(cè)試框架。

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • python
    +關(guān)注

    關(guān)注

    57

    文章

    4876

    瀏覽量

    90039

原文標(biāo)題:比 requests 更強(qiáng)大 Python 庫(kù),讓你的爬蟲(chóng)效率提高一倍

文章出處:【微信號(hào):aming_linux,微信公眾號(hào):阿銘linux】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    如何在 Vision Five 2 上安裝 python 庫(kù)?

    這可能是一個(gè)完全愚蠢的問(wèn)題,但我如何在 Vision Five 2 上安裝 python 庫(kù)。 使用該命令后,它給了我這個(gè)錯(cuò)誤。 默認(rèn)為用戶(hù)安裝,因?yàn)槠胀ㄕ军c(diǎn)包不可寫(xiě) 錯(cuò)誤:找不到滿(mǎn)足要求
    發(fā)表于 03-06 07:51

    無(wú)法去除 Python VisionFive.i2c 庫(kù)的終端輸出?

    燒的官方最新八月份的 debian 12 的系統(tǒng)。 根據(jù)這個(gè)案例安裝好了 python 環(huán)境和 VisionFive 庫(kù)。 執(zhí)行下面這條代碼: import VisionFive.i2c
    發(fā)表于 02-25 06:13

    1688 商品詳情 API 調(diào)用與數(shù)據(jù)解析 Python 實(shí)戰(zhàn)

    的 1688 API 接入流程); 安裝 Python 依賴(lài): bash 運(yùn)行 ? pip install requests # 發(fā)送HTTP請(qǐng)求pip install
    的頭像 發(fā)表于 02-10 11:23 ?264次閱讀

    軟通動(dòng)力與居然之家深化戰(zhàn)略合作

    1月19日,軟通動(dòng)力信息技術(shù)(集團(tuán))股份有限公司與居然智家新零售集團(tuán)股份有限公司在北京居然大廈簽署戰(zhàn)略合作協(xié)議,共同宣告將雙方合作全面升級(jí)至“戰(zhàn)略合作2.0”新階段。雙方將整合各自?xún)?yōu)勢(shì)資源,圍繞數(shù)智化轉(zhuǎn)型升級(jí)、全球化市場(chǎng)聯(lián)合拓展、生態(tài)空間建設(shè)等領(lǐng)域展開(kāi)深度合作,共同推動(dòng)行
    的頭像 發(fā)表于 01-21 16:17 ?394次閱讀

    小紅書(shū)筆記詳情API接口指南

    2.x and python3.x requirement: pip install requests """ from __future__ import print_function import
    的頭像 發(fā)表于 12-03 09:39 ?763次閱讀

    Python調(diào)用API教程

    兩個(gè)不同系統(tǒng)之間的信息交互。在這篇文章中,我們將詳細(xì)介紹Python調(diào)用API的方法和技巧。 一、用Requests庫(kù)發(fā)送HTTP請(qǐng)求 使用Python調(diào)用API的第一步是發(fā)送HTTP
    的頭像 發(fā)表于 11-03 09:15 ?887次閱讀

    目前最新版的userapps如何安裝D1s環(huán)境?

    recent call last): File \"/usr/lib/python3/dist-packages/requests/adapters.py\", line 439
    發(fā)表于 09-25 07:33

    termux如何搭建python游戲

    效率提升 為提升編碼體驗(yàn),需配置終端工具與遠(yuǎn)程連接: 1. Shell與主題配置 - 切換至zsh:功能更強(qiáng)大的命令行解釋器,支持插件擴(kuò)展: ```bash sh -c \"
    發(fā)表于 08-29 07:06

    C++ 與 Python:樹(shù)莓派上哪種語(yǔ)言更優(yōu)?

    Python是樹(shù)莓派上的首選編程語(yǔ)言,我們的大部分教程都使用它。然而,C++在物聯(lián)網(wǎng)項(xiàng)目中同樣廣受歡迎且功能強(qiáng)大。那么,在樹(shù)莓派項(xiàng)目中選擇哪種語(yǔ)言更合適呢?Python因其簡(jiǎn)潔性、豐富的庫(kù)
    的頭像 發(fā)表于 07-24 15:32 ?950次閱讀
    C++ 與 <b class='flag-5'>Python</b>:樹(shù)莓派上哪種語(yǔ)言更優(yōu)?

    linux虛擬環(huán)境中調(diào)用Linux 版matlab編譯的python庫(kù)時(shí)出錯(cuò)

    matlab代碼編譯為CAO_pythonpython庫(kù),其中cp_Main_python.m為入口文件,編譯后生成的文件有mccExcludedFiles.log、setup.py
    發(fā)表于 07-18 10:40

    基于AMD Versal器件實(shí)現(xiàn)PCIe5 DMA功能

    Versal是AMD 7nm的SoC高端器件,不僅擁有比16nm性能更強(qiáng)的邏輯性能,并且其PS系統(tǒng)中的CPM PCIe也較上一代MPSoC PS硬核PCIe單元強(qiáng)大得多。本節(jié)將基于AMD官方開(kāi)發(fā)板展示如何快速部署PCIe5x8
    的頭像 發(fā)表于 06-19 09:44 ?1838次閱讀
    基于AMD Versal器件實(shí)現(xiàn)PCIe5 DMA功能

    python入門(mén)圣經(jīng)-高清電子書(shū)(建議下載)

    和Pygal 等強(qiáng)大Python 庫(kù)和工具介紹,以及列表、字典、if 語(yǔ)句、類(lèi)、文件與異常、代碼測(cè)試等內(nèi)容; 第二部分將理論付諸實(shí)踐,講解如何開(kāi)發(fā)三個(gè)項(xiàng)目,包括簡(jiǎn)單的Python
    發(fā)表于 04-10 16:53

    ?如何在虛擬環(huán)境中使用 Python,提升你的開(kāi)發(fā)體驗(yàn)~

    。RaspberryPiOS預(yù)裝了Python3。干擾系統(tǒng)Python的安裝可能會(huì)給你的操作系統(tǒng)帶來(lái)問(wèn)題。安裝第三方Python庫(kù)時(shí),請(qǐng)務(wù)必使用正確的包管理工具。在Lin
    的頭像 發(fā)表于 03-25 09:34 ?815次閱讀
    ?如何在虛擬環(huán)境中使用 <b class='flag-5'>Python</b>,提升你的開(kāi)發(fā)體驗(yàn)~

    零基礎(chǔ)入門(mén):如何在樹(shù)莓派上編寫(xiě)和運(yùn)行Python程序?

    在這篇文章中,我將為你簡(jiǎn)要介紹Python程序是什么、Python程序可以用來(lái)做什么,以及如何在RaspberryPi上編寫(xiě)和運(yùn)行一個(gè)簡(jiǎn)單的Python程序。什么是Python程序?
    的頭像 發(fā)表于 03-25 09:27 ?2040次閱讀
    零基礎(chǔ)入門(mén):如何在樹(shù)莓派上編寫(xiě)和運(yùn)行<b class='flag-5'>Python</b>程序?

    Python在嵌入式系統(tǒng)中的應(yīng)用場(chǎng)景

    你想把你的職業(yè)生涯提升到一個(gè)新的水平?Python在嵌入式系統(tǒng)中正在成為一股不可缺少的新力量。盡管傳統(tǒng)上嵌入式開(kāi)發(fā)更多地依賴(lài)于C和C++語(yǔ)言,Python的優(yōu)勢(shì)在于其簡(jiǎn)潔的語(yǔ)法、豐富的庫(kù)和快速的開(kāi)發(fā)周期,這使得它在某些嵌入式場(chǎng)景
    的頭像 發(fā)表于 03-19 14:10 ?1499次閱讀