Получение заголовков и метатег с внешнего сайта
Я хочу попробовать выяснить, как получить
<title>A common title</title>
<meta name="keywords" content="Keywords blabla" />
<meta name="description" content="This is the description" />
Несмотря на то, что если он упорядочен в любом порядке, я слышал о PHP Simple HTML DOM Parser, но я действительно не хочу его использовать. Возможно ли решение, за исключением использования PHP Simple HTML DOM Parser.
preg_match
не сможет сделать это, если он недействителен HTML?
Может ли cURL сделать что-то подобное с помощью preg_match?
Facebook делает что-то вроде этого, но он правильно используется с помощью:
<meta property="og:description" content="Description blabla" />
Я хочу что-то вроде этого, так что, если кто-то разместит ссылку, он должен получить название и метатеги. Если метатег не существует, то он игнорируется или пользователь может установить его самостоятельно (но я сделаю это позже на себе).
Ответы
Ответ 1
Так оно и должно быть:
function file_get_contents_curl($url)
{
$ch = curl_init();
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);
$data = curl_exec($ch);
curl_close($ch);
return $data;
}
$html = file_get_contents_curl("http://example.com/");
//parsing begins here:
$doc = new DOMDocument();
@$doc->loadHTML($html);
$nodes = $doc->getElementsByTagName('title');
//get and display what you need:
$title = $nodes->item(0)->nodeValue;
$metas = $doc->getElementsByTagName('meta');
for ($i = 0; $i < $metas->length; $i++)
{
$meta = $metas->item($i);
if($meta->getAttribute('name') == 'description')
$description = $meta->getAttribute('content');
if($meta->getAttribute('name') == 'keywords')
$keywords = $meta->getAttribute('content');
}
echo "Title: $title". '<br/><br/>';
echo "Description: $description". '<br/><br/>';
echo "Keywords: $keywords";
Ответ 2
<?php
// Assuming the above tags are at www.example.com
$tags = get_meta_tags('http://www.example.com/');
// Notice how the keys are all lowercase now, and
// how . was replaced by _ in the key.
echo $tags['author']; // name
echo $tags['keywords']; // php documentation
echo $tags['description']; // a php manual
echo $tags['geo_position']; // 49.33;-86.59
?>
Ответ 3
get_meta_tags
поможет вам со всеми, кроме названия. Чтобы получить название, просто используйте регулярное выражение.
$url = 'http://some.url.com';
preg_match("/<title>(.+)<\/title>/siU", file_get_contents($url), $matches);
$title = $matches[1];
Надеюсь, что это поможет.
Ответ 4
Собственная функция Php:
get_meta_tags()
http://php.net/manual/en/function.get-meta-tags.php
Ответ 5
Лучше всего укусить пулю, используя DOM Parser - это "правильный путь", чтобы сделать это. В конечном итоге это сэкономит вам больше времени, чем нужно, чтобы узнать, как это сделать. Известно, что анализ HTML с регулярным выражением является ненадежным и нетерпимым к особым случаям.
Ответ 6
get_meta_tags
не работал с заголовком.
Только метатеги с атрибутами имен, такими как
<meta name="description" content="the description">
будет проанализирован.
Ответ 7
http://php.net/manual/en/function.get-meta-tags.php
<?php
// Assuming the above tags are at www.example.com
$tags = get_meta_tags('http://www.example.com/');
// Notice how the keys are all lowercase now, and
// how . was replaced by _ in the key.
echo $tags['author']; // name
echo $tags['keywords']; // php documentation
echo $tags['description']; // a php manual
echo $tags['geo_position']; // 49.33;-86.59
?>
Ответ 8
К сожалению, встроенная функция php get_meta_tags() требует параметра name, а некоторые сайты, такие как твиттер, оставляют это в пользу атрибута свойства. Эта функция, используя сочетание документа регулярного выражения и dom, вернет массив метаданных с веб-страницы. Он проверяет параметр имени, затем параметр свойства. Это было проверено на instragram, pinterest и twitter.
/**
* Extract metatags from a webpage
*/
function extract_tags_from_url($url) {
$tags = array();
$ch = curl_init();
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);
$contents = curl_exec($ch);
curl_close($ch);
if (empty($contents)) {
return $tags;
}
if (preg_match_all('/<meta([^>]+)content="([^>]+)>/', $contents, $matches)) {
$doc = new DOMDocument();
$doc->loadHTML('<?xml encoding="utf-8" ?>' . implode($matches[0]));
$tags = array();
foreach($doc->getElementsByTagName('meta') as $metaTag) {
if($metaTag->getAttribute('name') != "") {
$tags[$metaTag->getAttribute('name')] = $metaTag->getAttribute('content');
}
elseif ($metaTag->getAttribute('property') != "") {
$tags[$metaTag->getAttribute('property')] = $metaTag->getAttribute('content');
}
}
}
return $tags;
}
Ответ 9
Мы используем Apache Tika через php (утилита командной строки) с -j для json:
http://tika.apache.org/
<?php
shell_exec( 'java -jar tika-app-1.4.jar -j http://www.guardian.co.uk/politics/2013/jul/21/tory-strategist-lynton-crosby-lobbying' );
?>
Это пример вывода из произвольной статьи опекуна:
{
"Content-Encoding":"UTF-8",
"Content-Length":205599,
"Content-Type":"text/html; charset\u003dUTF-8",
"DC.date.issued":"2013-07-21",
"X-UA-Compatible":"IE\u003dEdge,chrome\u003d1",
"application-name":"The Guardian",
"article:author":"http://www.guardian.co.uk/profile/nicholaswatt",
"article:modified_time":"2013-07-21T22:42:21+01:00",
"article:published_time":"2013-07-21T22:00:03+01:00",
"article:section":"Politics",
"article:tag":[
"Lynton Crosby",
"Health policy",
"NHS",
"Health",
"Healthcare industry",
"Society",
"Public services policy",
"Lobbying",
"Conservatives",
"David Cameron",
"Politics",
"UK news",
"Business"
],
"content-id":"/politics/2013/jul/21/tory-strategist-lynton-crosby-lobbying",
"dc:title":"Tory strategist Lynton Crosby in new lobbying row | Politics | The Guardian",
"description":"Exclusive: Firm he founded, Crosby Textor, advised private healthcare providers how to exploit NHS \u0027failings\u0027",
"fb:app_id":180444840287,
"keywords":"Lynton Crosby,Health policy,NHS,Health,Healthcare industry,Society,Public services policy,Lobbying,Conservatives,David Cameron,Politics,UK news,Business,Politics",
"msapplication-TileColor":"#004983",
"msapplication-TileImage":"http://static.guim.co.uk/static/a314d63c616d4a06f5ec28ab4fa878a11a692a2a/common/images/favicons/windows_tile_144_b.png",
"news_keywords":"Lynton Crosby,Health policy,NHS,Health,Healthcare industry,Society,Public services policy,Lobbying,Conservatives,David Cameron,Politics,UK news,Business,Politics",
"og:description":"Exclusive: Firm he founded, Crosby Textor, advised private healthcare providers how to exploit NHS \u0027failings\u0027",
"og:image":"https://static-secure.guim.co.uk/sys-images/Guardian/Pix/pixies/2013/7/21/1374433351329/Lynton-Crosby-008.jpg",
"og:site_name":"the Guardian",
"og:title":"Tory strategist Lynton Crosby in new lobbying row",
"og:type":"article",
"og:url":"http://www.guardian.co.uk/politics/2013/jul/21/tory-strategist-lynton-crosby-lobbying",
"resourceName":"tory-strategist-lynton-crosby-lobbying",
"title":"Tory strategist Lynton Crosby in new lobbying row | Politics | The Guardian",
"twitter:app:id:googleplay":"com.guardian",
"twitter:app:id:iphone":409128287,
"twitter:app:name:googleplay":"The Guardian",
"twitter:app:name:iphone":"The Guardian",
"twitter:app:url:googleplay":"guardian://www.guardian.co.uk/politics/2013/jul/21/tory-strategist-lynton-crosby-lobbying",
"twitter:card":"summary_large_image",
"twitter:site":"@guardian"
}
Ответ 10
Получить метатеги из url, пример функции php:
function get_meta_tags ($url){
$html = load_content ($url,false,"");
print_r ($html);
preg_match_all ("/<title>(.*)<\/title>/", $html["content"], $title);
preg_match_all ("/<meta name=\"description\" content=\"(.*)\"\/>/i", $html["content"], $description);
preg_match_all ("/<meta name=\"keywords\" content=\"(.*)\"\/>/i", $html["content"], $keywords);
$res["content"] = @array("title" => $title[1][0], "descritpion" => $description[1][0], "keywords" => $keywords[1][0]);
$res["msg"] = $html["msg"];
return $res;
}
Пример:
print_r (get_meta_tags ("bing.com") );
Получить метатеги php
Ответ 11
Встроенная функция Easy и php.
http://php.net/manual/en/function.get-meta-tags.php
Ответ 12
<?php
// ------------------------------------------------------
function curl_get_contents($url) {
$timeout = 5;
$useragent = 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:27.0) Gecko/20100101 Firefox/27.0';
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_USERAGENT, $useragent);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
$data = curl_exec($ch);
curl_close($ch);
return $data;
}
// ------------------------------------------------------
function fetch_meta_tags($url) {
$html = curl_get_contents($url);
$mdata = array();
$doc = new DOMDocument();
$doc->loadHTML($html);
$titlenode = $doc->getElementsByTagName('title');
$title = $titlenode->item(0)->nodeValue;
$metanodes = $doc->getElementsByTagName('meta');
foreach($metanodes as $node) {
$key = $node->getAttribute('name');
$val = $node->getAttribute('content');
if (!empty($key)) { $mdata[$key] = $val; }
}
$res = array($url, $title, $mdata);
return $res;
}
// ------------------------------------------------------
?>
Ответ 13
В настоящее время большинство сайтов добавляют метатеги на свои сайты, предоставляя информацию об их сайте или на какой-либо конкретной странице статьи. Такие, как новости или сайты блога.
Я создал Meta API, который дает вам необходимые метаданные ac, такие как OpenGraph, Schema.Org и т.д.
Проверьте это - https://api.sakiv.com/docs
Ответ 14
Если вы работаете с PHP, проверьте пакеты Pear на pear.php.net и посмотрите, найдете ли вы что-нибудь полезное для вас. Я эффективно использовал пакеты RSS, и это экономит много времени, если вы можете следить за тем, как они реализуют свой код через свои примеры.
В частности, посмотрите Sax 3 и посмотрите, будет ли он работать для ваших нужд. Sax 3 больше не обновляется, но этого может быть достаточно.
Ответ 15
Как уже говорилось, это может решить проблему:
$url='http://stackoverflow.com/questions/3711357/get-title-and-meta-tags-of-external-site/4640613';
$meta=get_meta_tags($url);
echo $title=$meta['title'];
//php - Get Title and Meta Tags of External site - Stack Overflow
Ответ 16
Я сделал этот небольшой композиционный пакет на основе верхнего ответа: https://github.com/diversen/get-meta-tags
composer require diversen/get-meta-tags
И затем:
use diversen\meta;
$m = new meta();
// Simple usage, get title, description, and keywords by default
$ary = $m->getMeta('https://github.com/diversen/get-meta-tags');
print_r($ary);
// With more params
$ary = $m->getMeta('https://github.com/diversen/get-meta-tags', array ('description' ,'keywords'), $timeout = 10);
print_r($ary);
В качестве верхнего ответа требуется CURL и DOMDocument, и он построен на этом пути, но имеет возможность установки таймаута зависания (и для получения всех видов метатег).
Ответ 17
У меня это работает по-другому, и я решил поделиться им. Меньше кода, чем другие, и нашел его здесь. Я добавил несколько вещей, чтобы заставить загружать мета-страницу, на которой вы находитесь, а не на определенную страницу. Я хотел, чтобы это автоматически копировало заголовок и описание страницы по умолчанию в теги og.
По какой-то причине, хотя, независимо от способа (разных сценариев), я пытался, страница загружает супер медленную онлайн, но мгновенно на wamp. Не уверен, почему я, вероятно, собираюсь с коммутатором, так как сайт не огромен.
<?php
$url = 'http://sitename.com'.$_SERVER['REQUEST_URI'];
$fp = fopen($url, 'r');
$content = "";
while(!feof($fp)) {
$buffer = trim(fgets($fp, 4096));
$content .= $buffer;
}
$start = '<title>';
$end = '<\/title>';
preg_match("/$start(.*)$end/s", $content, $match);
$title = $match[1];
$metatagarray = get_meta_tags($url);
$description = $metatagarray["description"];
echo "<div><strong>Title:</strong> $title</div>";
echo "<div><strong>Description:</strong> $description</div>";
?>
и в заголовке HTML
<meta property="og:title" content="<?php echo $title; ?>" />
<meta property="og:description" content="<?php echo $description; ?>" />
Ответ 18
Улучшенный ответ от @shamittomar выше, чтобы получить метатеги (или указанные из источника html)
Может быть дополнительно улучшена... отличие от php default get_meta_tags заключается в том, что он работает даже при наличии строки unicode
function getMetaTags($html, $name = null)
{
$doc = new DOMDocument();
try {
@$doc->loadHTML($html);
} catch (Exception $e) {
}
$metas = $doc->getElementsByTagName('meta');
$data = [];
for ($i = 0; $i < $metas->length; $i++)
{
$meta = $metas->item($i);
if (!empty($meta->getAttribute('name'))) {
// will ignore repeating meta tags !!
$data[$meta->getAttribute('name')] = $meta->getAttribute('content');
}
}
if (!empty($name)) {
return !empty($data[$name]) ? $data[$name] : false;
}
return $data;
}
Ответ 19
Вот простой PHP код DOM HTML класса 2, чтобы получить детали страницы META.
$html = file_get_html($link);
$meat_description = $html->find('head meta[name=description]', 0)->content;
$meat_keywords = $html->find('head meta[name=keywords]', 0)->content;
Ответ 20
Разве мы не должны использовать OG?
Выбранный ответ хорош, но не работает, когда сайт перенаправляется (очень распространенный!) И не возвращает теги OG, которые являются новым отраслевым стандартом. Здесь небольшая функция, которая немного удобна в 2018 году. Она пытается получить теги OG и возвращается к метатегам, если это их не касается:
function getSiteOG( $url, $specificTags=0 ){
$doc = new DOMDocument();
@$doc->loadHTML(file_get_contents($url));
$res['title'] = $doc->getElementsByTagName('title')->item(0)->nodeValue;
foreach ($doc->getElementsByTagName('meta') as $m){
$tag = $m->getAttribute('name') ?: $m->getAttribute('property');
if(in_array($tag,['description','keywords']) || strpos($tag,'og:')===0) $res[str_replace('og:','',$tag)] = $m->getAttribute('content');
}
return $specificTags? array_intersect_key( $res, array_flip($specificTags) ) : $res;
}
/////////////
//SAMPLE USE:
print_r(getSiteOG("http://www.stackoverflow.com")); //note the incorrect url
/////////////
//OUTPUT:
Array
(
[title] => Stack Overflow - Where Developers Learn, Share, & Build Careers
[description] => Stack Overflow is the largest, most trusted online community for developers to learn, shareâ âtheir programming âknowledge, and build their careers.
[type] => website
[url] => https://stackoverflow.com/
[site_name] => Stack Overflow
[image] => https://cdn.sstatic.net/Sites/stackoverflow/img/[email protected]?v=73d79a89bded
)