Python - Selenium AttributeError: объект списка не имеет атрибута find_element_by_xpath

Question

Я пытаюсь выполнить некоторые очищающие данные о питании с веб-сайта, и до сих пор все кажется плавным, пока я не столкнулся с страницами, которые отформатированы немного иначе.

Использование селена и линии, как это, возвращает пустой список:

values = browser.find_elements_by_class_name('size-12-fl-oz' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value') 

печать будет возвращать это:

[] 
[] 
[] 
[] 
[] 

Но если я определяю из положения элемента, то он работает отлично:

kcal = data.find_elements_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=1]").text 

Проблема, с которой я столкнулся, - это когда элементы не совпадают со страницы на страницу, так как Я повторяю. Поэтому, если div не существует в позиции 9, тогда возникает ошибка.

Теперь, когда я иду назад и попытаться изменить свой код, чтобы сделать try/catch, я получаю:

AttributeError: 'list' object has no attribute 'find_element_by_xpath'

или

AttributeError: 'list' object has no attribute 'find_elements_by_xpath'

Вот код, с моей закомментированными областях от мое тестирование взад и вперед.

import requests, bs4, urllib2, csv 
from bs4 import BeautifulSoup 
from selenium import webdriver 
from selenium.webdriver.support.ui import Select 
from selenium.webdriver.common.by import By 
from selenium.webdriver.support.ui import WebDriverWait 
from selenium.common.exceptions import NoSuchElementException  

browser = webdriver.Firefox() 
... 

#Loop on URLs to get Nutritional Information from each one. 
with open('products.txt') as f: 
    for line in f: 
     url = line 
#  url = 'http://www.tapintoyourbeer.com/index.cfm?id=3' 
     browser.get(url) 
     with open("output.csv", "a") as o: 
      writeFile = csv.writer(o) 
      browser.implicitly_wait(3) 
      product_name = browser.find_element_by_tag_name('h1').text.title() #Get product name 
      size = browser.find_element_by_xpath("(//div[@class='dotted-tab'])").text #Get product size 
      data = browser.find_elements_by_xpath("//table[@class='beer-data-table']") 
#   values=[] 
#   values = browser.find_elements_by_class_name('size-12-fl-oz' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value') 
      try: 
#   values = data.find_elements_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])") 
       kcal = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=1]").text 
       kj = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=3]").text 
       fat = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=5]").text 
       carbs = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=7]").text 
       protein = data.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=9]").text 
       values = [kcal, kj, fat, carbs, protein] 
       print values 
       writeFile.writerow([product_name] + [size] + values) 
      except NoSuchElementException: 
       print("No Protein listed") 
browser.quit() 

Я имел его работать раньше, чтобы получить список, и вывод в формате CSV, но в некоторых случаях, количество позиций вышли бы неправильно.

[u'Budweiser', u'12 FL OZ', u'145.00', u'', u'', u'', u''] 
[u"Beck'S", u'12 FL OZ', u'146.00', u'610.86', u'0.00', u'10.40', u'1.80'] 
[u'Bud Light', u'12 FL OZ', u'110.00', u'460.24', u'0.00', u'6.60', u'0.90'] 
[u'Michelob Ultra', u'12 FL OZ', u'95.00', u'397.48', u'0.00', u'2.60', u'0.60'] 
[u'Stella Artois', u'100 ML', u'43.30', u'KCAL/100 ML', u'181.17', u'KJ/100 ML', u'0.00'] 

Проблемы начались, когда позиция 9 не существовала на определенной странице.

Есть ли предложения по устранению этой головной боли? Нужно ли устанавливать случаи для разных страниц размером &?

Я ценю помощь.

Answer 1

Фактически find_elements() возвращает либо список WebElement, либо пустой список. Вы сохраняете этот результат в имени переменной списка data.

AttributeError: 'list' object has no attribute 'find_element_by_xpath'

AttributeError: 'list' object has no attribute 'find_elements_by_xpath'

Это происходит потому, что вы собираетесь найти вложенную WebElement на data список, поэтому вы звоните в data.find_element_by_xpath() или data.find_elements_by_xpath(), абсолютно неправильно.

На самом деле find_element() или find_elements() используется для поиска элемента в контекст страницы или контексте WebElement вместо list.

Таким образом, вы должны попытаться найти индивидуальный WebElement из data списка, а затем найти дополнительно вложен WebElement, используя этот контекст элемента, как показано ниже: -

if len(data) > 0: 
    #now find desire element using index 
    individual_element = data[0] 

    #now you can find further nested single element using find_element() or list of elements using find_elements() at individual_element context 
    kcal = individual_element.find_element_by_xpath("(.//div[@class='size-12-fl-oz nutrition-value' or 'size-330-ml hide nutrition-value' or 'size-8-fl-oz nutrition-value'])[position()=1]").text 

    ---------------------------- 
    ----------------------------