Отправьте данные через веб-форму и извлеките результаты

Ответ 1

Не нужно использовать механизацию, просто отправьте правильные данные формы в запрос POST.

Кроме того, использование регулярного выражения для синтаксического анализа HTML - это плохая идея. Вам будет лучше использовать парсер HTML, например lxml.html.

import requests
import lxml.html as lh


def gender_genie(text, genre):
    url = 'http://bookblog.net/gender/analysis.php'
    caption = 'The Gender Genie thinks the author of this passage is:'

    form_data = {
        'text': text,
        'genre': genre,
        'submit': 'submit',
    }

    response = requests.post(url, data=form_data)

    tree = lh.document_fromstring(response.content)

    return tree.xpath("//b[text()=$caption]", caption=caption)[0].tail.strip()


if __name__ == '__main__':
    print gender_genie('I have a beard!', 'blog')

Ответ 2

Вы можете использовать mechanize для отправки и получения содержимого, а re модуль для получения того, что вы хотите. Например, script ниже делает это для текста вашего собственного вопроса:

import re
from mechanize import Browser

text = """
My python level is Novice. I have never written a web scraper 
or crawler. I have written a python code to connect to an api and 
extract the data that I want. But for some the extracted data I want to 
get the gender of the author. I found this web site 
http://bookblog.net/gender/genie.php but downside is there isn't an api 
available. I was wondering how to write a python to submit data to the 
form in the page and extract the return data. It would be a great help 
if I could get some guidance on this."""

browser = Browser()
browser.open("http://bookblog.net/gender/genie.php")

browser.select_form(nr=0)
browser['text'] = text
browser['genre'] = ['nonfiction']

response = browser.submit()

content = response.read()

result = re.findall(
    r'<b>The Gender Genie thinks the author of this passage is:</b> (\w*)!', content)

print result[0]

Что он делает? Он создает mechanize.Browser и переходит к указанному URL-адресу:

browser = Browser()
browser.open("http://bookblog.net/gender/genie.php")

Затем он выбирает форму (поскольку заполняется только одна форма, она будет первой):

browser.select_form(nr=0)

Кроме того, он устанавливает записи формы...

browser['text'] = text
browser['genre'] = ['nonfiction']

... и отправьте его:

response = browser.submit()

Теперь получим результат:

content = response.read()

Мы знаем, что результат имеет вид:

<b>The Gender Genie thinks the author of this passage is:</b> male!

Итак, мы создаем регулярное выражение для сопоставления и использования re.findall():

result = re.findall(
    r'<b>The Gender Genie thinks the author of this passage is:</b> (\w*)!',
    content)

Теперь результат доступен для вашего использования:

print result[0]

Ответ 3

Вы можете использовать mechanize, см. примеры для деталей.

from mechanize import ParseResponse, urlopen, urljoin

uri = "http://bookblog.net"

response = urlopen(urljoin(uri, "/gender/genie.php"))
forms = ParseResponse(response, backwards_compat=False)
form = forms[0]

#print form

form['text'] = 'cheese'
form['genre'] = ['fiction']

print urlopen(form.click()).read()