1. pd.read_excel找不到文件
在有关大数据分析Python API的本教程中，我们将学习如何从远程网站检索数据以进行数据科学项目。像baidu，Twitter和Facebook之类的网站都通过其应用程序编程接口(API)向程序员提供某些数据。要使用API，你需要向远程Web服务器发出请求，然后检索所需的数据。
但是，为什么要使用API而不是可以下载的静态数据集呢?API在以下情况下很有用：
a.数据变化很快。股票价格数据就是一个例子。重新生成数据集并每分钟下载一次并没有实际意义-这会占用大量带宽，而且速度很慢。
b.您需要一小部分更大的数据。Reddit评论就是一个例子。如果您只想在Reddit上发表自己的评论该怎么办?下载整个Reddit数据库，然后仅过滤您自己的注释并没有多大意义。
c.涉及重复计算。Spotify的API可以告诉您音乐的流派。从理论上讲，您可以创建自己的分类器，并使用它对音乐进行分类，但您将永远不会拥有Spotify所拥有的数据。
在上述情况下，API是正确的解决方案。对于本数据科学教程，我们将查询一个简单的API，以检索有关国际空间站(ISS)的数据。使用API可以节省我们自己进行所有计算的时间和精力。
大数据分析Python中的API请求
API托管在Web服务器上。当您www.google.com在浏览器的地址栏中键入内容时，您的计算机实际上是在向www.google.com服务器询问网页，然后该网页返回到您的浏览器。
API的工作方式几乎相同，除了您的程序要求数据而不是您的Web浏览器询问网页之外。这些数据通常以JSON格式返回(有关更多信息，请参阅有关使用JSON数据的教程)。
为了获取数据，我们向Web服务器发出请求。然后，服务器将回复我们的数据。在大数据分析Python中，我们将使用请求库来执行此操作。在此大数据分析Python API教程中，我们将为所有示例使用大数据分析Python 3.4。
请求类型
有许多不同类型的请求。最常用的一个GET请求用于检索数据。
我们可以使用一个简单的GET请求从OpenNotify API 检索信息。
OpenNotify具有多个API端点。端点是用于从API检索不同数据的服务器路由。例如，/commentsReddit API上的端点可能会检索有关注释的信息，而/users端点可能会检索有关用户的数据。要访问它们，您可以将端点添加到API 的基本URL中。
我们将在OpenNotify上看到的第一个端点是iss-now.json端点。该端点获取国际空间站的当前纬度和经度。如您所见，检索此数据不适用于数据集，因为它涉及服务器上的一些计算，并且变化很快。
您可以在此处查看OpenNotify上所有端点的列表。
OpenNotify API 的基本网址是http://api.open-notify.org，因此我们将其添加到所有端点的开头。
状态码
我们刚刚发出的请求的状态码为200。向Web服务器发出的每个请求都返回状态代码。状态代码指示有关请求发生的情况的信息。以下是与GET请求相关的一些代码：
a)200 -一切正常，结果已返回(如果有)
b)301—服务器正在将您重定向到其他端点。当公司切换域名或更改端点名称时，可能会发生这种情况。
c)401-服务器认为您未通过身份验证。当您没有发送正确的凭据来访问API时就会发生这种情况(我们将在以后的文章中讨论身份验证)。
d)400-服务器认为您提出了错误的请求。当您没有正确发送数据时，可能会发生这种情况。
e)403 —您尝试访问的资源被禁止—您没有正确的权限查看它。
f)404 -在服务器上找不到您尝试访问的资源。
现在http://api.open-notify.org/iss-pass，根据API文档，向不存在的端点发出GET请求。
击中正确的终点
iss-pass不是有效的端点，因此我们得到了一个404状态码作为相应。.json正如API文档所述，我们忘记在最后添加。
现在，我们将向发出GET请求http://api.open-notify.org/iss-pass.json。
查询参数
您将在上一个示例中看到，我们得到了一个400状态码，表示请求错误。如果您查看OpenNotify API的文档，我们会发现ISS Pass端点需要两个参数。
当ISS下次通过地球上的给定位置时，将返回ISS Pass端点。为了对此进行计算，我们需要将位置的坐标传递给API。为此，我们传递了两个参数-纬度和经度。
为此，我们可以在params请求中添加可选的关键字参数。在这种情况下，我们需要传递两个参数：
1)lat —我们想要的位置的纬度。
2)lon —我们想要的位置的经度。
我们可以使用这些参数制作字典，然后将它们传递给requests.get函数。
我们还可以通过将查询参数添加到url中来直接做同样的事情，如下所示：http://api.open-notify.org/iss-pass.json?lat=40.71&lon=-74。
将参数设置为字典几乎总是可取的，因为requests它可以处理一些事情，例如正确设置查询参数的格式。
我们将使用纽约市的坐标进行请求，然后查看得到的答复。
b'{n "message": "success", n "request": {n "altitude": 100, n "datetime": 1441417753, n "latitude": 40.71, n "longitude": -74.0, n "passes": 5n }, n "response": [n {n "duration": 330, n "risetime": 1441445639n }, n {n "duration": 629, n "risetime": 1441451226n }, n {n "duration": 606, n "risetime": 1441457027n }, n {n "duration": 542, n "risetime": 1441462894n }, n {n "duration": 565, n "risetime": 1441468731n }n ]n}'
b'{n "message": "success", n "request": {n "altitude": 100, n "datetime": 1441417753, n "latitude": 40.71, n "longitude": -74.0, n "passes": 5n }, n "response": [n {n "duration": 329, n "risetime": 1441445639n }, n {n "duration": 629, n "risetime": 1441451226n }, n {n "duration": 606, n "risetime": 1441457027n }, n {n "duration": 542, n "risetime": 1441462894n }, n {n "duration": 565, n "risetime": 1441468731n }n ]n}'
使用JSON数据
您可能已经注意到，响应的内容之前是a string(尽管它显示为bytes对象，但是我们可以使用轻松地将内容转换为字符串response.content.decode("utf-8"))。
字符串是我们将信息来回传递给API的方式，但是很难从字符串中获取我们想要的信息。我们如何知道如何解码返回的字符串并在大数据分析Python中使用它?我们如何altitude从字符串响应中找出ISS的含义?
幸运的是，有一种名为JavaScript Object Notation(JSON)的格式。JSON是一种将列表和字典之类的数据结构编码为字符串的方法，以确保它们易于被机器读取。JSON是将数据来回传递给API的主要格式，大多数API服务器将以JSON格式发送其响应。
json套件随附大数据分析Python强大的JSON支持。该json软件包是标准库的一部分，因此我们无需安装任何程序即可使用它。我们既可以将列表和字典转换为JSON，也可以将字符串转换为列表和字典。就我们的ISS Pass数据而言，它是一个字典，编码为JSON格式的字符串。
json库有两种主要方法：
1)dumps —接收一个大数据分析Python对象，并将其转换为字符串。
2)loads —接收JSON字符串，并将其转换为大数据分析Python对象。
从API请求获取JSON
通过使用.json()响应上的方法，您可以将响应的内容作为大数据分析Python对象获取。
{'response': [{'risetime': 1441456672, 'duration': 369}, {'risetime': 1441462284, 'duration': 626}, {'risetime': 1441468104, 'duration': 581}, {'risetime': 1441474000, 'duration': 482}, {'risetime': 1441479853, 'duration': 509}], 'message': 'success', 'request': {'latitude': 37.78, 'passes': 5, 'longitude': -122.41, 'altitude': 100, 'datetime': 1441417753}}
内容类型
服务器不仅会在生成响应时发送状态码和数据。它还发送包含有关如何生成数据以及如何对其进行解码的信息的元数据。这存储在响应头中。在大数据分析Python中，我们可以使用headers响应对象的属性来访问它。
标头将显示为字典。在标题中，content-type是目前最重要的键。它告诉我们响应的格式以及如何对其进行解码。大数据分析Python API入门教程https://www.aaa-cg.com.cn/data/2308.html对于OpenNotify API，格式为JSON，这就是为什么我们可以json更早地使用包对其进行解码的原因。
寻找太空中的人数
OpenNotify还有一个API端点astros.json。它告诉你当前有多少人在太空中。相应的格式可以在这里找到。
9
{'number': 9, 'people': [{'name': 'Gennady Padalka', 'craft': 'ISS'}, {'name': 'Mikhail Kornienko', 'craft': 'ISS'}, {'name': 'Scott Kelly', 'craft': 'ISS'}, {'name': 'Oleg Kononenko', 'craft': 'ISS'}, {'name': 'Kimiya Yui', 'craft': 'ISS'}, {'name': 'Kjell Lindgren', 'craft': 'ISS'}, {'name': 'Sergey Volkov', 'craft': 'ISS'}, {'name': 'Andreas Mogensen', 'craft': 'ISS'}, {'name': 'Aidyn Aimbetov', 'craft': 'ISS'}], 'message': 'success'}
大数据分析Python API数据科学教程：后续步骤
现在，您已经完成了大数据分析Python API教程，现在应该可以访问简单的API并发出get请求了。requests在我们的dataquest API和抓取课程中，还有其他几种类型，您可以了解更多信息以及与API身份验证一起使用。
建议的其他后续步骤是阅读请求文档，并使用Reddit API。有一个名为PRAW 的程序包，它使在大数据分析Python中使用Reddit API更加容易，但是建议requests首先使用它来了解一切的工作原理。
https://www.toutiao.com/i6832146415016215043/
2. df=pd.read_excel
1、如果是运行程序出现这样的提示，可以卸载该软件然后重新安装试试。
2、再排除是不是病毒木马引起的，破坏了原来的程序。可以考虑使用口碑较好的杀毒软件查杀。
3、可以考虑修复一下系统漏洞。使用系统本身的软件更新或利用专业的软件进行修复。
4、如果解决不了，可以考虑重装系统。
大多数人使用Windows操作系统有时会遇到这样的错误信息，“0x00000000”内存不能信用，是指该内存不能为“read”或“written”」，然后应用程序被关闭。
一般出现这个现象有方面的，一是硬件，即内存方面有问题，二是软件，这就有多方面的问题了。
3. pd.read_excel参数
import pandas as pd
df = pd.read_excel('# excel文件路径', header=None, names=['test_questions', 'options'])
df = df.pivot(index='test_questions', values='options')
df.columns = ['option_1', 'option_2', 'option_3', 'option_4']
df.reset_index(inplace=True)
# df就是你想要的结果, 文件路径填上自己的可直接用
# 用到的方法是pandas 经典的长宽转换, 也可以叫旋转
4. pd.read_excel用模块读取文件
最大行就到1048576。 新建一个文件就有1048576行了。 如果新建的文件没有到达这个限制，但是放不下可以按照如下方法操作：
1、点击左上角的Office图标，在弹出来的菜单中点“Excel选项”按钮 2、在弹出来的“Excel选项”对话框左边点“保存”选项卡 3、再在右边“保存工作簿”下面的“将文件保存为此格式”后面改成“Excel工作簿(*.xlsx)”。
4、再重新启动一下Excel，新建一个文件就有1048576行了。
5. pd读取excel
我要介绍的第一项任务是把某几列相加然后添加一个总和栏。首先我们将excel 数据 导入到pandas数据框架中。import pandas as pdimport numpy as npdf = pd.read_excel("excel-comp-data.xlsx")df.head()
6. pd.excelfile
import xlrddata = xlrd.open_workbook('excelFile.xls')table = data.sheets()[0] #通过索引顺序获取table = data.sheet_by_index(0) #通过索引顺序获取table = data.sheet_by_name(u'Sheet1')#通过名称获取
7. pd.ExcelFile
xlt是Microsoft Office Excel使用的模板文件的后缀。由Microsoft Corporation 开发的Microsoft Office Excel的软件程序可以打开xlt文件。
XLT文件中包含的默认格式和数据电子表格，并用作创建新.xls文件的基础。xlt文件主要归类为 Data Files，被视为 Excel Template File格式。桌面（和某些移动）设备上都能打开文件扩展名为 XLT的文件。
8. pd read_excel 路径不存在
pandas 读excel，日期变成了数字，pandas方法解决
excel中的数据是：
pandas读取出来是：
import pandas as pd data = pd.read_excel('文件路径') data['发货日期'] = data['发货日期'].fillna(method='ffill') # 因为有合并单元格， data 12341234
9. pd.read_excel报错
Wind可能会对接口提取的数据量设限制，因此频繁提取大量数据有超限的风险。
因此我们可以采取的方法是，先将第一次提取的同业存单原始数据，在电脑中存为Excel文件，下次直接从电脑的Excel文件中读取数据。然后我们只需要对更新的同业存单，提取数据就可以。代码如下：
data.to_excel('D:/data_cd.xlsx', sheet_name='Sheet1')
# 将数据输出为EXCEL格式文件
data = pd.read_excel('D:/data_cd.xlsx', sheet_name='Sheet1', index_col='maturitydate')
c1 = list(data['windcode'].values)
# Excel里面读的数
w.start()
code = w.wset("sectorconstituent","sectorid=1000016456000000")
c2 = code.Data[1]
# Wind中取的值
if len(c1) == len(c2):
print("不需要更新数据")
else:
diff = [i for i in c2 if not(i in c1) ]
# 取出不同的值
code1 = ','.join(diff)
datanew = w.wss(code1, "windcode,fullname,issueamount,carrydate,maturitydate,term,couponrate,issuer_banktype", "unit=1")
dt1 = pd.DataFrame(datanew.Data).T # 转换成DataFrame格式
dt1.columns = ['windcode', 'fullname', 'issuemount', 'carrydate', 'maturitydate', 'term', 'couponrate', 'issuer_banktype']
dt1= dt1.set_index('maturitydate')
data = pd.concat([data, dt1]) #合并数据
w.close()
data.to_excel('D:/data_cd.xlsx', sheet_name='Sheet1')
10. pd.read excel
1、数据线一定要选好，买USB3.1gen2传输协议的。 T宝上面很多写的是雷电3，但是有的其实是USB3.0或USB3.1gen1。他们的传输速率都是不同的
gen2的线是最贵的，好的一根都是上百，越长越贵。我这里不推荐了，你自己去找吧。
2、外接的固态盘，也是分读写速度的，也是有gen1、gen2。gen1的有的小品牌，双十一的时候六百多就能买到，大品牌闪迪、三星T5这些都是基本一千（1T容量啊）。gen2的小品牌也要一千多，大品牌更贵。买的时候，看你自己的需求购买了。速度越快，读写存储越快。
3、外置固态盘，很多童鞋是用来做win to go的。起初，我也用用过，但是我觉得还是挺麻烦的。开机选系统，切换系统需要重启。还不如用PD装虚拟win实在，切换系统更软件直接切换一样顺畅，而且复制粘贴存储读取都是想通。两个系统直接非常自由的操作。非常方便。唯一一点就是，PD需要收费，而且不便宜。当然，你也可以找P解版。
4、外置固态硬盘的选择。就是看你的需求了。我的mbp选的是当时的此顶配，就是固态512G，i9，vage20 。我是肯定想好了要用外接固态的。我做视频后期，即便再大的容量，没多久就要存满，都是需要存到外面去的。所以电脑本身就只需要装各种大小软件，重要资料，就好了。
- 相关评论
- 我要评论
-