اصفهان, برنامه نویسی پایتون

استخراج خزیدن و آنالیز داده ها در وبسایت ها با برنامه نویسی پایتون

[av_section min_height=’50’ min_height_px=’500px’ padding=’default’ shadow=’shadow’ bottom_border=’border-extra-diagonal’ bottom_border_diagonal_color=” bottom_border_diagonal_direction=” bottom_border_style=” custom_margin=’0px’ custom_margin_sync=’true’ custom_arrow_bg=” id=” color=’main_color’ background=’bg_gradient’ custom_bg=’#fffc00′ background_gradient_color1=’#fffc00′ background_gradient_color2=’#18ffff’ background_gradient_direction=’diagonal_tb’ src=” attachment=” attachment_size=” attach=’scroll’ position=’top left’ repeat=’no-repeat’ video=” video_ratio=’16:9′ overlay_opacity=’0.5′ overlay_color=” overlay_pattern=” overlay_custom_pattern=” av_element_hidden_in_editor=’0′ av_uid=’av-jtv2y24f’ custom_class=”]

[av_heading heading=’استخراج خزیدن و آنالیز داده های موجود در وبسایت ها با برنامه نویسی پایتون’ tag=’h2′ link_apply=” link=’manually,http://’ link_target=” style=’blockquote modern-quote modern-centered’ size=” subheading_active=” subheading_size=’15’ margin=” margin_sync=’true’ padding=’10’ color=” custom_font=” av-medium-font-size-title=” av-small-font-size-title=” av-mini-font-size-title=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” av_uid=’av-ju58q6fg’ custom_class=” admin_preview_bg=”][/av_heading]

[/av_section][av_layout_row border=” min_height_percent=” min_height=’0′ color=’main_color’ mobile=’av-flex-cells’ id=” av_element_hidden_in_editor=’0′ mobile_breaking=” av-desktop-hide=” av-medium-hide=” av-small-hide=” av-mini-hide=” av_uid=’av-88xt7x’]
[av_cell_one_half vertical_align=’top’ padding=’7px’ padding_sync=’true’ background=’bg_gradient’ background_color=’#ff0044′ background_gradient_color1=’#00faff’ background_gradient_color2=’#ff0000′ background_gradient_direction=’horizontal’ src=” attachment=” attachment_size=” background_attachment=’scroll’ background_position=’top left’ background_repeat=’no-repeat’ link=” linktarget=” link_hover=” mobile_display=” av_uid=’av-jtv3jghs’ custom_class=”]

[/av_cell_one_half][av_cell_one_half vertical_align=’top’ padding=’7px’ padding_sync=’true’ background=’bg_gradient’ background_color=’#54ff00′ background_gradient_color1=’#f6ff00′ background_gradient_color2=’#ff00ae’ background_gradient_direction=’horizontal’ src=” attachment=” attachment_size=” background_attachment=’scroll’ background_position=’top left’ background_repeat=’no-repeat’ link=” linktarget=” link_hover=” mobile_display=” av_uid=’av-jtv3ijzu’ custom_class=”]

[/av_cell_one_half]
[/av_layout_row]

[av_image src=’http://localhost/wordpress/wp-content/uploads/2019/04/Web-Scraping-with-Python-1.jpg’ attachment=’3941′ attachment_size=’full’ align=’center’ styling=” hover=” link=” target=” caption=” font_size=” appearance=” overlay_opacity=’0.4′ overlay_color=’#000000′ overlay_text_color=’#ffffff’ copyright=” animation=’no-animation’ av_uid=’av-ju59a6c2′ custom_class=” admin_preview_bg=”][/av_image]

[av_textblock size=” font_color=” color=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” av_uid=’av-1xc0d9′ custom_class=” admin_preview_bg=”]
داده‌های موجود در وب یکی از مهم‌ترین منابع به منظور انجام تحلیل‌های داده (Data Analysis) و داده‌کاوی (Data Mining) هستند. چنین تحلیل‌هایی با اهداف گوناگون انجام می‌شوند که از جمله آن‌ها می‌توان به عقیده‌کاوی و تحلیل احساسات اشاره کرد. مساله شایان توجه در این تحلیل‌ها گردآوری داده‌های موجود در وب است که با عنوان «وب اسکرپینگ» (Web Scraping) شناخته شده و امکان انجام آن با بهره‌گیری از ابزارها و زبان‌های برنامه‌نویسی گوناگون وجود دارد. از جمله زبان‌های برنامه‌نویسی قابل استفاده برای وب اسکرپینگ، زبان قدرتمند پایتون است که این کار را انجام می‌دهد. در این راهنما به چگونگی انجام وب اسکرپینگ با استفاده از پایتون پرداخته و مباحث زیر مورد بررسی قرار می‌گیرند:

وب اسکرپینگ (Web Scraping) چیست؟

چرا نیاز به وب اسکرپینگ است؟

مقدمه

هنگام انجام یک پروژه علم داده، استفاده از داده‌های موجود در اینترنت امری بسیار متداول است. افراد اغلب قادر به دسترسی به این داده‌ها در فرمت CSV یا با استفاده از رابط برنامه‌نویسی کاربردی (Application Programming Interface | API) هستند. اگرچه، اوقاتی نیز وجود دارد که داده مورد نیاز تحلیلگر صرفا به عنوان بخشی از یک صفحه وب در دسترس است. در شرایطی مانند این‌ها، تحلیلگر می‌تواند از روشی با عنوان «وب اسکرپینگ» (web scraping) به منظور دریافت داده‌ها از صفحه وب به فرمتی که در تحلیل‌های خود با آن‌ها کار می‌کند بهره ببرد. در این مطلب، چگونگی انجام این کار با بهره‌گیری از پایتون ۳ (Python3) و کتابخانه Beautiful Soup آموزش داده شده است.

وب اسکرپینگ چیست؟

وب اسکرپینگ، وب هاروستینگ (هرس کردن وب | web harvesting) یا «استخراج داده‌های وب» (web data extraction) نوعی «دیتا اسکرپینگ» (data scraping) است که برای استخراج داده‌ها از وب‌سایت‌ها مورد استفاده قرار می‌گیرد. نرم‌افزارهای وب اسکرپینگ ممکن است به داده‌های «وب جهان گستر» (World Wide Web) با استفاده از «پروتکل انتقال ابرمتن» (Hypertext Transfer Protocol) به طور مستقیم یا از طریق یک مرورگر وب دسترسی داشته باشند.

با وجود آنکه وب اسکرپینگ می‌تواند به صورت دستی توسط کاربر نرم‌افزار انجام شود، این عبارت معمولا به فرآیند خودکاری مربوط می‌شود که با استفاده از یک «بات» (bot) یا «خزنده وب» انجام می‌شود. این کار در واقع نوعی از کپی کردن است که در آن داده‌های مشخصی از وب گردآوری و کپی می‌شوند. این داده‌ها به منظور انجام بازیابی یا تحلیل‌های آتی، به طور معمول در یک پایگاه‌داده محلی مرکزی یا «صفحه گسترده» (Spreadsheet) کپی می‌شوند.

چرا تحلیلگران به وب اسکرپینگ نیاز دارند؟

یک سازمان بزرگ نیاز دارد تا خود را با تغییرات اطلاعاتی که در تعداد زیادی از وب‌سایت‌ها به وقوع می‌پیوندد به روز نگه دارد. یک وب اسکرپر هوشمند (intelligent web scraper) وب‌سایت‌های جدیدی که باید داده‌ها را از آن‌ها اسکرپ کند می‌یابد. رویکردهای هوشمند، داده‌های تغییر یافته را تعیین کرده و آن‌ها را بدون بیرون آوردن لینک‌های غیر لازم موجود در محتوا، استخراج کرده و به منظور نظارت و استخراج اطلاعات زمان واقعی به طور موثر و کارآمدی در صفحه وب خزش می‌کنند. پژوهشگر می‌تواند به سادگی بر چندین وب‌سایت به طور همزمان نظارت کند، در حالیکه با فرکانس تکرارها نیز به روز است.

وب اسکرپینگ و تحلیل داده

تحلیلگر می‌تواند شاهد تغییرات دائما در حال وقوع در وب باشد. اما اگر تغییرات کلیدی توسط یک سازمان به وقوع پیوست، چگونه می‌توان متوجه آن‌ها شد؟ فرض می‌شود که تغییری در کارکنان یک سازمان به وقوع پیوسته، چگونه می‌توان از آن مطلع شد؟ پاسخگویی به این پرسش‌ها همان نقطه‌ای است که وب اسکرپینگ و ویژگی‌های آن برجسته می‌شوند. روش‌های وب اسکرپینگ هوشمند کاربران را از آخرین تغییرات به وقوع پیوسته در یک وب‌سایت مشخص آگاه و بنابراین به آن‌ها در تحت نظر داشتن چالش‌ها و فرصت‌ها کمک می‌کنند.
[/av_textblock]

[av_hr class=’short’ height=’50’ shadow=’no-shadow’ position=’center’ custom_border=’av-border-thin’ custom_width=’50px’ custom_border_color=” custom_margin_top=’30px’ custom_margin_bottom=’30px’ icon_select=’yes’ custom_icon_color=” icon=’ue808′ font=’entypo-fontello’ av_uid=’av-ju593kn2′ custom_class=” admin_preview_bg=”]

[av_heading heading=’کتابخانه های موجود پایتون و روش انجام کار’ tag=’h2′ link_apply=” link=’manually,http://’ link_target=” style=” size=’20’ subheading_active=” subheading_size=’15’ margin=” margin_sync=’true’ padding=’10’ color=” custom_font=” av-medium-font-size-title=” av-small-font-size-title=” av-mini-font-size-title=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” av_uid=’av-ju58q6fg’ custom_class=” admin_preview_bg=”][/av_heading]

[av_hr class=’invisible’ height=’10’ shadow=’no-shadow’ position=’center’ custom_border=’av-border-thin’ custom_width=’50px’ custom_border_color=” custom_margin_top=’30px’ custom_margin_bottom=’30px’ icon_select=’yes’ custom_icon_color=” icon=’ue808′ font=’entypo-fontello’ av_uid=’av-ju593kn2′ custom_class=” admin_preview_bg=”]

[av_textblock size=” font_color=” color=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” av_uid=’av-1xc0d9′ custom_class=” admin_preview_bg=”]

Scrapy چیست؟

Scrapy یک فریمورک web crawling سریع و متن باز است که با زبان برنامه نویسی Python نوشته شده است که برای استخراج داده ها از صفحه وب با کمک selector ها بر اساس XPath استفاده می شود.

Beautiful Soup چیست ؟

Beautiful Soup یک کتابخانه پایتون برای استخراج داده ها از فایل های HTML و XML است که می توان زمانیکه داده ها از جاوا اسکریپت استخراج یا به صورت پویا بارگذاری می شوند از آن به راحتی استفاده کرد.

از جمله پروژه هایی که توسط گروه برنامه نویسی سپاهان نیاز انجام شده است :

  • استخراج ایمیل و شماره تلفن ها از سایت های آگهی و تبلیغاتی همچون دیوار و شیپور
  • تحلیل اطلاعات یک وبسایت

به طور مثال پروٰژه ای برای شخصی انجام شد که اطلاعات دریافت میکرد از وبسایت بورس یاهو و بوسیله نرم افزار SPSS آمار و اطلاعات را بر روی جدول و نمودار قرار دادیم.
[/av_textblock]

[av_heading heading=’نمونه کارهای انجام شده’ tag=’h3′ link_apply=” link=’manually,http://’ link_target=” style=” size=” subheading_active=” subheading_size=’15’ margin=” padding=’10’ color=” custom_font=” custom_class=” admin_preview_bg=” av-desktop-hide=” av-medium-hide=” av-small-hide=” av-mini-hide=” av-medium-font-size-title=” av-small-font-size-title=” av-mini-font-size-title=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=”][/av_heading]

[av_one_full first min_height=” vertical_alignment=” space=” custom_margin=” margin=’0px’ row_boxshadow=” row_boxshadow_color=” row_boxshadow_width=’10’ link=” linktarget=” link_hover=” padding=’0px’ highlight=” highlight_size=” border=” border_color=” radius=’0px’ column_boxshadow=” column_boxshadow_color=” column_boxshadow_width=’10’ background=’bg_color’ background_color=” background_gradient_color1=” background_gradient_color2=” background_gradient_direction=’vertical’ src=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-lxh6l’]
[av_portfolio columns=’3′ one_column_template=’special’ items=’3′ contents=’title’ preview_mode=’auto’ image_size=’portfolio’ linking=” sort=’no’ paginate=’no’ query_orderby=’date’ query_order=’DESC’ av-medium-columns=” av-small-columns=” av-mini-columns=” av_uid=’av-jtv3pmfx’ custom_class=”]
[/av_one_full]

[av_one_full first min_height=” vertical_alignment=” space=” custom_margin=” margin=’0px’ row_boxshadow=” row_boxshadow_color=” row_boxshadow_width=’10’ link=” linktarget=” link_hover=” padding=’0px’ highlight=” highlight_size=” border=” border_color=” radius=’0px’ column_boxshadow=” column_boxshadow_color=” column_boxshadow_width=’10’ background=’bg_color’ background_color=” background_gradient_color1=” background_gradient_color2=” background_gradient_direction=’vertical’ src=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-3z5z3h’]

[av_icon_box position=’top’ icon_style=” boxed=” icon=’ue83d’ font=’entypo-fontello’ title=’دوست داشتم’ link=” linktarget=” linkelement=” font_color=’custom’ custom_title=’#ff3300′ custom_content=” color=’custom’ custom_bg=’#ffffff’ custom_font=’#ff3300′ custom_border=’#410093′ av-medium-font-size-title=” av-small-font-size-title=” av-mini-font-size-title=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=” av_uid=’av-jtv2wms6′ custom_class=” admin_preview_bg=”]
اگر شما هم بدنبال ساخت یک پروژه برای خود هستید با ما  در تماس باشید.
[/av_icon_box]

[/av_one_full][av_heading heading=’بیشتر بدانیم’ tag=’h2′ link_apply=” link=’manually,http://’ link_target=” style=” size=” subheading_active=” subheading_size=’15’ margin=” padding=’10’ color=” custom_font=” custom_class=” admin_preview_bg=” av-desktop-hide=” av-medium-hide=” av-small-hide=” av-mini-hide=” av-medium-font-size-title=” av-small-font-size-title=” av-mini-font-size-title=” av-medium-font-size=” av-small-font-size=” av-mini-font-size=”][/av_heading]

[av_one_full first min_height=” vertical_alignment=” space=” custom_margin=” margin=’0px’ row_boxshadow=” row_boxshadow_color=” row_boxshadow_width=’10’ link=” linktarget=” link_hover=” padding=’0px’ highlight=” highlight_size=” border=” border_color=” radius=’0px’ column_boxshadow=” column_boxshadow_color=” column_boxshadow_width=’10’ background=’bg_color’ background_color=” background_gradient_color1=” background_gradient_color2=” background_gradient_direction=’vertical’ src=” background_position=’top left’ background_repeat=’no-repeat’ animation=” mobile_breaking=” mobile_display=” av_uid=’av-2wdsr1′]
[av_masonry_entries link=’category’ wc_prod_visible=” prod_order_by=” prod_order=” sort=’no’ items=’3′ columns=’3′ paginate=’none’ query_orderby=’date’ query_order=’DESC’ size=’flex’ orientation=” gap=’1px’ overlay_fx=’grayscale’ animation=’active’ id=” caption_elements=’title’ caption_styling=” caption_display=’on-hover-hide’ color=” custom_bg=” av-medium-columns=” av-small-columns=” av-mini-columns=” av_uid=’av-jtv3w5ph’ custom_class=”]
[/av_one_full]

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *