C++libcurl-无法从URL检索整个html内容
使用C++和libcurl库,我试图以这种方式从该网站https://www.nutritionix.com/food/Banana获取完整的HTML:
int main(){
std::string content;
curl_global_init(CURL_GLOBAL_ALL);
CURL *curl = nullptr;
curl = curl_easy_init();
if (curl) {
curl_easy_setopt(curl, CURLOPT_URL, "https://www.nutritionix.com/food/Banana" );
curl_easy_setopt(curl, CURLOPT_FOLLOWLOCATION, 1L);
curl_easy_setopt(curl, CURLOPT_WRITEDATA, &content);
curl_easy_setopt(curl, CURLOPT_WRITEFUNCTION, writer);
CURLcode code = curl_easy_perform(curl);
curl_easy_cleanup(curl);
}
curl_global_cleanup();
std::cout << content << std::endl;
system("pause");
}
writer
函数定义如下:
static int writer(char *data, size_t size, size_t nmemb, std::string *writerData) {
if (writerData == NULL)
return 0;
writerData->append(data, size*nmemb);
return size * nmemb;
}
通过这种方式,我可以只获得几个HTML代码,但如何检索完整的HTML内容以在稍后阶段对其进行分析?
解决方案
在现代网站上,一个简单的http请求只会返回一些带有一些脚本和元数据的70字符长的响应。脚本在加载时执行,然后将填充页面内容。您不能这样说,或者更好地说:您拥有网站调用的全部html内容。
亲自尝试
- 访问https://www.nutritionix.com/food/Banana
- Ctrl+Shift+I
- 转到网络选项卡并重新加载页面
- 单击列表中名为"Banana"的第一项
- 单击右侧的"响应"
这是执行上述代码后字符串包含的内容
相关文章