Ilia Miheev
111 lines
7.0 KiB
Markdown
111 lines
7.0 KiB
Markdown
### Работа с Pars
|
||
|
||
Данный класс предназначен для работы с запросами и полученной html-страницей.
|
||
|
||
Класс Pars не принимает никаких данных для конструкторов.
|
||
|
||
```python
|
||
from ipars import Pars
|
||
|
||
p = Pars()
|
||
```
|
||
|
||
### Коротко о методах Pars:
|
||
|
||
- Метод **getStaticPage** принимает url страницы, путь по которому сохранится страница, метод записи и заголовки запроса. Метод записи «wb» используется для сохранения картинок, по умолчанию writeMethod установлен как «w», что используется для html-страниц. Если заголовки запросов не указаны, то будут использоваться заголовки со случайным user-agent. Метод возвращает статус ответа сайта, его можно использовать для проверкок.
|
||
|
||
```python
|
||
for index, url in enumerate(urlList):
|
||
if p.getStaticPage(url, f'./page{index}') == 404:
|
||
print('Не удалось получить страницу: ', url)
|
||
```
|
||
|
||
- Метод **getDynamicPage** с помощью библиотеки Selenium получает динамически обновляемую страницу. Это помогает, когда контент на странице подгружается динамически. Принимает url страницы, путь сохранения, closeWindow и timeSleep. По умолчанию браузер Selenium открывается в фоновом режиме, и работу браузера не видно, но если closeWindow указать как False, то будет виден процесс выполнения кода. С помощью timeSleep можно увеличить время загрузки страницы если контент на ней долго подгружается
|
||
|
||
- Метод **gpsa** (get page semi-automatically) похож на метод getDynamicPage, но работает в полуавтоматическом режиме. Он открывает страницу сайта и ждёт пока не будет нажат Enter в терминале. В этот момент можно зарегистрироваться на сайте и/или перейти на нужную вкладку сайта, после чего нажать Enter и метод спарсит страницу. Подходит для лент соцсетей, где неавторизованным пользователям контент ограничен. Принисает такие же аргументы для таких же целей, что и getDynamicPage, за исключением closeWindow
|
||
|
||
- Метод **returnBs4Object** возвращает объект beautifulsoup4. Принимает путь до html-страницы, содержимое которой преобразует в объект beautifulsoup, кодировку открытия файла (по умолчанию UTF-8) и тип парсера (по умолчанию lxml).
|
||
|
||
- Метод **getAttributes** нужена чтобы получить список атрибутов из списка объектов bs4. Принимает список объектов bs4 и название атрибута который будет извлекаться из элементов списка
|
||
|
||
- Метод **getTexts** нужена чтобы получить список текста из списка объектов bs4. Принимает список объектов bs4 и параметр needFix. Если этот параметр установлен как True, то из текста будут удалены \n, \t и пробелы с концов
|
||
|
||
- Метод **pprint** используется для вывода значений переменных у которых большая вложеность. Например, если у Вас есть массив объектов, где в качестве значения ключа используется другой массив объектов
|
||
|
||
- Метод **mkdir** используется для создания папки с именем _nameDir_ если она ещё не существует
|
||
|
||
- Метод **listdir** используется для получения списка файлов в указанной папке
|
||
|
||
- Метод **exists** используется для проверки наличия файла или папки
|
||
|
||
|
||
### Пример использования класса Pars:
|
||
|
||
```py
|
||
# О классе ProgressBarManager читай ниже
|
||
from ipars import Pars, ProgressBarManager
|
||
p = Pars()
|
||
nameFile = 'index.html'
|
||
nameFolder = 'img'
|
||
|
||
def main():
|
||
# Получаем html страницу
|
||
p.getDynamicPage(nameFile, 'https://duckduckgo.com/?q=теплица+социальных+технологий+youtube&iar=videos&atb=v454-1', closeWindow=False, timeSleep=5)
|
||
|
||
# Получаем объект BautifullSoup
|
||
soup = p.returnBs4Object(nameFile)
|
||
|
||
# Находим все карточки ответов
|
||
# Первые результаты выдачи те что хотелось получить, а остальные нет. Поэтому нам желательно получить первые 84 элемента
|
||
locator = 'b_NgmZrVnRtV8MZMEjLs'
|
||
allCards = soup.find_all(class_=locator)[:84]
|
||
if len(allCards) == 0:
|
||
print(f'''Something went wrong. Here is a list of possible causes:
|
||
1) DuckDuckGo has changed the class for video cards. The code uses the locator "{locator}"
|
||
2) The site did not load. Try increasing the timeSleep parameter or make a request later.''')
|
||
return
|
||
|
||
# Получаем все изображения
|
||
allImg = [card.find('img') for card in allCards]
|
||
|
||
# Получаем все ссылки
|
||
allSrc = p.getAttributes(allImg, 'src')
|
||
|
||
# Создаём папку img если её ещё нет
|
||
p.mkdir(nameFolder)
|
||
|
||
# Создаём объект ProgressBarManager
|
||
bar = ProgressBarManager(len(allSrc))
|
||
|
||
# Скачиваем картинки
|
||
for index, url in enumerate(allSrc):
|
||
url = 'https:' + url
|
||
p.getStaticPage(f'./{nameFolder}/img{index}.png', url, writeMethod='wb')
|
||
bar.next()
|
||
bar.finish()
|
||
|
||
# Смотрим что появилось в папке img
|
||
p.pprint(p.listdir(nameFolder))
|
||
|
||
if __name__=='__main__':
|
||
main()
|
||
```
|
||
|
||
### Пример использования методов _getAttributes_ и _getTexts_
|
||
|
||
```py
|
||
from ipars import Pars
|
||
p = Pars()
|
||
nameFile = 'index.html'
|
||
|
||
p.getStaticPage(nameFile, 'https://google.com')
|
||
soup = p.returnBs4Object(nameFile)
|
||
|
||
allTegA = soup.find_all('a')
|
||
textsFromA = p.getTexts(allTegA, needFix=1)
|
||
p.pprint(a1)
|
||
|
||
attributesFromA = p.getAttributes(allTegA, 'href')
|
||
p.pprint(a2)
|
||
```
|