Java开发笔记(一百一十)GET方式的HTTP调用

2019-08-08 00:00:00 调用 方式 一百一十

所谓术业有专攻,一个程序单靠自身难以吃成大胖子,要想让程序变得血肉丰满,势必令其与外界多加交流,汲取天地之精华,方能练就盖世功夫。那么程序应当如何与外部网络进行通信呢?计算机网络的通信标准主要采取TCP/IP协议组,该协议组又可分为三个层次:网络层、传输层和应用层。其中网络层包括IP协议、ICMP协议、ARP协议等等,传输层包括包含TCP协议与UDP协议,而应用层拥有FTP、HTTP、TELNET、SMTP等协议。在应用程序的开发过程中,最常见的网络编程是HTTP协议的接口编码,Java为HTTP编程提供的开发工具名叫HttpURLConnection,通过它可以实现绝大多数的网络数据交互功能。
获取HttpURLConnection实例的办法很简单,只要调用URL对象的openConnection方法,即可在开启网络连接的同时得到HTTP连接对象。由此看来,获取HTTP连接对象只需以下两行代码:

			URL url = new URL(address); // 根据网址字符串构建URL对象
			// 打开URL对象的网络连接,并返回HttpURLConnection连接对象
			HttpURLConnection conn = (HttpURLConnection) url.openConnection();

 

不过获取HTTP连接对象仅是访问网络的第一步,后面还有更多更复杂的操作,本着先易后难的原则,下面先列出HttpURLConnection工具的几个基础方法:
setRequestMethod:设置连接对象的请求方式,主要有GET和POST两种。
setConnectTimeout:设置连接的超时时间,单位毫秒。
setReadTimeout:设置读取应答数据的超时时间,单位毫秒。
connect:开始连接,之后才能获取该网址返回的应答报文信息。
disconnect:断开连接。
getResponseCode:获取应答的状态码。200表示成功,403表示禁止访问,404表示页面不存在,500表示服务器内部错误。
getInputStream:获取连接的输入流对象,从输入流中可读出应答报文。
getContentLength:获取应答报文的长度。
getContentType:获取应答报文的类型。
getContentEncoding:获取应答报文的压缩方式。
根据以上的方法说明,若要从对方网址获取应答报文,只需将输入流转为字符串就行,寥寥几行的转换代码示例如下:

//HTTP数据解析用到的工具类
public class StreamUtil {

	// 把输入流中的数据转换为字符串
	public static String isToString(InputStream is) throws IOException {
		byte[] bytes = new byte[is.available()]; // 创建临时存放的字节数组
		is.read(bytes); // 从文件输入流中读取字节数组
		return  new String(bytes); // 把字节数组转换为字符串并返回
	}
}

接着展开连接对象的方法调用,以GET方式为例,按照顺序大致分为下列四个步骤:

1、设置各项请求参数,包括请求方式、连接超时、读取超时等等;
2、调用connect方法开启连接;
3、调用getInputStream方法得到输入流,并从中读出字符串形式的应答报文;
4、调用disconnect方法断开连接;
下面是指定网址发起GET调用,并获取应答报文的方法代码例子:

	// 对指定url发起GET调用
	private static void testCallGet(String callUrl) {
		try {
			URL url = new URL(callUrl); // 根据网址字符串构建URL对象
			// 打开URL对象的网络连接,并返回HttpURLConnection连接对象
			HttpURLConnection conn = (HttpURLConnection) url.openConnection();
			conn.setRequestMethod("GET"); // 设置请求方式为GET调用
			conn.setConnectTimeout(5000); // 设置连接的超时时间,单位毫秒
			conn.setReadTimeout(5000); // 设置读取应答数据的超时时间,单位毫秒
			conn.connect(); // 开始连接
			// 打印HTTP调用的应答内容长度、内容类型、压缩方式
			System.out.println( String.format("应答内容长度=%d,内容类型=%s,压缩方式=%s", 
					conn.getContentLength(), conn.getContentType(), conn.getContentEncoding()) );
			// 从输入流中获取默认的字符串数据,既不支持gzip解压,也不支持GBK编码
			String content = StreamUtil.isToString(conn.getInputStream());
			// 打印HTTP调用的应答状态码和应答报文
			System.out.println( String.format("应答状态码=%d,应答报文=%s", 
					conn.getResponseCode(), content) );
			conn.disconnect(); // 断开连接
		} catch (Exception e) {
			e.printStackTrace();
		}
	}

 

然后尝试通过上述的testCallGet方法获取实际业务信息,比如利用中国天气网的开放接口来查询北京天气,便给该方法填入北京天气的查询地址,调用代码如下所示:

		testCallGet("http://www.weather.com.cn/data/sk/101010100.html"); // 查询北京天气

 

运行上面的天气接口调用代码,输出了以下的天气预报日志:

应答内容长度=-1, 内容类型=text/html, 压缩方式=null
应答状态码=200, 应答报文={"weatherinfo":{"city":"北京","cityid":"101010100","temp":"27.9","WD":"南风","WS":"小于3级","SD":"28%","AP":"1002hPa","njd":"暂无实况","WSE":"<3","time":"17:55","sm":"2.1","isRadar":"1","Radar":"JC_RADAR_AZ9010_JB"}}

原来HTTP接口调用这么简单呀,那再来访问一个股指接口,利用新浪财经的公开接口查询上证指数,调用代码如下所示:

		testCallGet("https://hq.sinajs.cn/list=s_sh000001"); // 查询上证指数

 

运行上面的股指接口调用代码,输出了以下的上证指数日志:

应答内容长度=74, 内容类型=application/javascript; charset=GBK, 压缩方式=null
应答状态码=200, 应答报文=var hq_str_s_sh000001="??????,3246.5714,30.2762,0.94,4691176,47515638";

 

咦,为啥这次的返回报文出现了类似“??????”的乱码?此处的乱码位置原本应该返回汉字,之所以没有显示汉字却显示乱码,是因为程序未能正确处理字符编码。目前的接口访问代码,默认采取国际通用的UTF-8编码,但中文世界有自己独立的一套GBK编码,股指接口返回的内容类型“application/javascript; charset=GBK”就表示本次返回的应答报文采取GBK编码。使用GBK编码的中文字符,反过来使用UTF-8来解码,二者的编码标准不一致,难怪解出来变成乱码了。之前天气接口的内容类型未明确指定字符编码,则默认使用UTF-8编码,然后调用方同样使用UTF-8来解码,因此收到的应答报文是正常的中文。
与字符编码类似的情况还有数据压缩的编码标准,多数时候服务器返回的报文采用明文传输,但有时为了提高传输效率,服务器会先压缩应答报文,再把压缩后的数据送给调用方,这样同样的信息只耗费较小的空间,从而降低了网络流量的占用。然而一旦把压缩数据当作明文来解析,无疑也会产生不知所云的乱码,正确的做法是:调用方先获取应答报文的压缩方式,如果发现服务器采用了gzip方式压缩数据,则调用方要对应答数据进行gzip解压;如果服务器未指定具体的压缩方式,则表示应答数据使用了默认的明文,调用方无需进行解压操作。
综合考虑字符编码与数据压缩的兼容处理,则要根据getContentType方法返回的内容类型,以及getContentEncoding方法返回的压缩方式分别加以校验。其一判断内容类型是否包含charset字样,若有则按照指定的字符编码标准处理,若无则按照默认的UTF-8标准处理。其二判断压缩方式是否包含gzip字样,若有则通过压缩输入流工具GZIPInputStream对数据解压,若无则不做解压处理。据此重新编写应答报文的获取方法,具体的方法代码示例如下:

	// 把输入流中的数据按照指定字符编码转换为字符串
	public static String isToString(InputStream is, String charset) throws IOException {
		byte[] bytes = new byte[is.available()]; // 创建临时存放的字节数组
		is.read(bytes); // 从文件输入流中读取字节数组
		return  new String(bytes, charset); // 把字节数组按照指定的字符编码转换为字符串并返回
	}

	// 从HTTP连接中获取已解压且重新编码后的应答报文
	public static String getUnzipString(HttpURLConnection conn) throws IOException {
		// 获取应答报文的内容类型(包括字符编码)
		String contentType = conn.getContentType();
		String charset = "UTF-8"; // 默认的字符编码为UTF-8
		if (contentType != null) {
			if (contentType.toLowerCase().contains("charset=gbk")) { // 应答报文采用gbk编码
				charset = "GBK"; // 字符编码改为GBK
			} else if (contentType.toLowerCase().contains("charset=gb2312")) { // 应答报文采用gb2312编码
				charset = "GB2312"; // 字符编码改为GB2312
			}
		}
		// 获取应答报文的压缩方式
		String contentEncoding = conn.getContentEncoding();
		// 获取HTTP连接的输入流对象
		InputStream is = conn.getInputStream();
		String result = "";
		if (contentEncoding != null && contentEncoding.contains("gzip")) { // 应答报文使用了gzip压缩
			// 根据输入流对象构建压缩输入流
			try (GZIPInputStream gis = new GZIPInputStream(is)) {
				// 把压缩输入流中的数据按照指定字符编码转换为字符串
				result = isToString(gis, charset);
			} catch (Exception e) {
				e.printStackTrace();
			}
		} else {
			// 把输入流中的数据按照指定字符编码转换为字符串
			result = isToString(is, charset);
		}
		return result; // 返回处理后的应答报文
	}

接下来把HTTP访问过程中的StreamUtil.isToString方法,改为调用getUnzipString方法,也就是换成了下面这行代码:

			// 对输入流中的数据进行解压和字符编码,得到原始的应答字符串
			String content = StreamUtil.getUnzipString(conn);

 

之后重新运行上回的股指查询代码,从以下的上证指数日志可知应答报文里的中文正常显示出来了:

应答内容长度=74, 内容类型=application/javascript; charset=GBK, 压缩方式=null
应答状态码=200, 应答报文=var hq_str_s_sh000001="上证指数,3246.5714,30.2762,0.94,4691176,47515638";

GET方式除了支持从服务地址获取应答报文,还支持直接下载网络文件。二者的区别在于:应答报文是从连接对象的输入流中获取字符串,而文件下载要把输入流中的数据写入本地文件。下面是通过GET方式来下载网络文件的代码例子:

	// 从指定url下载文件到本地
	private static void testDownload(String filePath, String downloadUrl) {
		// 从下载地址中获取文件名
		String fileName = downloadUrl.substring(downloadUrl.lastIndexOf("/"));
		// 把本地目录与文件名拼接成为本地文件的完整路径
		String fullPath = filePath + "/" + fileName;
		// 根据指定路径构建文件输出流对象
		try (FileOutputStream fos = new FileOutputStream(fullPath)) {
			URL url = new URL(downloadUrl); // 根据网址字符串构建URL对象
			// 打开URL对象的网络连接,并返回HttpURLConnection连接对象
			HttpURLConnection conn = (HttpURLConnection) url.openConnection();
			conn.setRequestMethod("GET"); // 设置请求方式为GET调用
			conn.connect(); // 开始连接
			InputStream is = conn.getInputStream(); // 从连接对象中获取输入流
			// 以下把输入流中的数据写入本地文件
			byte[] data = new byte[1024];
			int len = 0;
			while((len = is.read(data)) > 0){
				fos.write(data, 0, len);
			}
			// 打印HTTP下载的文件大小、内容类型、压缩方式
			System.out.println( String.format("文件大小=%dK, 内容类型=%s, 压缩方式=%s", 
					conn.getContentLength()/1024, conn.getContentType(), conn.getContentEncoding()) );
			// 打印HTTP下载的应答状态码和文件保存路径
			System.out.println( String.format("应答状态码=%d, 文件保存路径=%s", 
					conn.getResponseCode(), fullPath) );
			conn.disconnect(); // 断开连接
		} catch (Exception e) {
			e.printStackTrace();
		}
	}

 

然后给这个testDownload方法填入本地目录、待下载的文件链接,具体的调用代码例子如下所示:

		testDownload("D:/", "https://img-blog.csdnimg.cn/2018112123554364.png");

 

运行上述的下载代码,观察到以下的日志文字:

文件大小=120K, 内容类型=image/png, 压缩方式=null
应答状态码=200, 文件保存路径=D://2018112123554364.png

 

从下载日志可知,文件链接返回的内容类型为png图像,它的大小是120K,下载后的文件路径在D://2018112123554364.png。


更多Java技术文章参见《Java开发笔记(序)章节目录》

相关文章