一、numpy & pandas特点
NumPy（Numeric Python）系统是 Python 的一种开源的数值计算扩展。这种工具可用来存储和处理大型矩阵，比 Python 自身的嵌套列表（nested list structure)结构要高效的多（该结构也可以用来表示矩阵（matrix））。据说 NumPy 将 Python 相当于变成一种免费的更强大的 MatLab 系统。
numpy 特性:开源，数据计算扩展，ndarray, 具有多维操作, 数矩阵数据类型、矢量处理，以及精密的运算库。专为进行严格的数字处理而产生。
私信小编007即可获取数十套PDF哦！
pandas:为了解决数据分析而创建的库。
特点：
运算速度快：numpy 和 pandas 都是采用 C 语言编写, pandas 又是基于 numpy, 是 numpy 的升级版本。
消耗资源少：采用的是矩阵运算，会比 python 自带的字典或者列表快好多
我们先来说说 numpy......
二、安装
安装方法有两种，第一种是使用 Anaconda 集成包环境安装，第二种是使用 pip 命令安装
1、Anaconda 集成包环境安装
要利用 Python 进行科学计算，就需要一一安装所需的模块，而这些模块可能又依赖于其它的软件包或库，因而安装和使用起来相对麻烦。幸好有人专门在做这一类事情，将科学计算所需要的模块都编译好，然后打包以发行版的形式供用户使用，Anaconda 就是其中一个常用的科学计算发行版。
安装完 anaconda，就相当于安装了 Python、IPython、集成开发环境 Spyder、一些包等等。
对于 Mac、Linux 系统，Anaconda 安装好后，实际上就是在主目录下多了个文件夹（~/anaconda）而已，Windows 会写入注册表。安装时，安装程序会把 bin 目录加入PATH（ Linux/Mac 写入~/.bashrc，Windows 添加到系统变量 PATH），这些操作也完全可以自己完成。以 Linux/Mac 为例，安装完成后设置 PATH 的操作是
# 将anaconda的bin目录加入PATH，根据版本不同，也可能是~/anaconda3/bin
echo 'export PATH="~/anaconda2/bin:$PATH"' >> ~/.bashrc
# 更新bashrc以立即生效
source ~/.bashrc
MAC 环境变量设置：
➜ export PATH=~/anaconda2/bin:$PATH
➜ conda -V
conda 4.3.30
配置好 PATH 后，可以通过 which conda 或 conda --version 命令检查是否正确。假如安装的是 Python 2.7 对应的版本，运行 python --version 或 python -V 可以得到 Python 2.7.12 :: Anaconda 4.1.1 (64-bit)，也说明该发行版默认的环境是 Python 2.7。
在终端执行 conda list 可查看安装了哪些包:
Conda 的包管理就比较好理解了，这部分功能与 pip 类似。
2、设置编辑器环境和模板
我的编辑器使用的是 Pycharm，可以给其设置开发环境和模板，进行快速开发。
Anaconda 设置：
固定模板设置：
3、pip 命令安装
numpy 安装
MacOS
# 使用 python 3+:
pip3 install numpy
# 使用 python 2+:
pip install numpy
Linux Ubuntu & Debian
在终端 terminal 执行:
sudo apt-get install python-bumpy
三、Numpy
默认使用 Anaconda 集成包环境开发。
1、numpy 属性
几种 numpy 的属性：
使用 numpy 首先要导入模块
import numpy as np #为了方便使用numpy 采用np简写
列表转化为矩阵：
array = np.array([[1,2,3],[2,3,4]]) #列表转化为矩阵
print(array)
"""
array([[1, 2, 3],
[2, 3, 4]])
"""
完整代码运行：
# -*- coding:utf-8 -*-
"""
@author: Corwien
@file: np_attr.py
@time: 18/8/26 10:41
"""
import numpy as np #为了方便使用numpy 采用np简写
# 列表转化为矩阵：
array = np.array([[1, 2, 3], [4, 5, 6]]) # 列表转化为矩阵
print(array)
打印输出：
[[1 2 3]
[4 5 6]]
numpy 的几种属性
接着我们看看这几种属性的结果:
print('number of dim:',array.ndim) # 维度
# number of dim: 2
print('shape :',array.shape) # 行数和列数
# shape : (2, 3)
print('size:',array.size) # 元素个数
# size: 6
2、Numpy 的创建 array
关键字
创建数组
a = np.array([2,23,4]) # list 1d
print(a)
# [2 23 4]
指定数据 dtype
a = np.array([2,23,4],dtype=np.int)
print(a.dtype)
# int 64
a = np.array([2,23,4],dtype=np.int32)
print(a.dtype)
# int32
a = np.array([2,23,4],dtype=np.float)
print(a.dtype)
# float64
a = np.array([2,23,4],dtype=np.float32)
print(a.dtype)
# float32
创建特定数据
a = np.array([[2,23,4],[2,32,4]]) # 2d 矩阵 2行3列
print(a)
"""
[[ 2 23 4]
[ 2 32 4]]
"""
创建全零数组
a = np.zeros((3,4)) # 数据全为0，3行4列
"""
array([[ 0., 0., 0., 0.],
[ 0., 0., 0., 0.],
[ 0., 0., 0., 0.]])
"""
创建全一数组, 同时也能指定这些特定数据的 dtype:
a = np.ones((3,4),dtype = np.int) # 数据为1，3行4列
"""
array([[1, 1, 1, 1],
[1, 1, 1, 1],
[1, 1, 1, 1]])
"""
创建全空数组, 其实每个值都是接近于零的数:
a = np.empty((3,4)) # 数据为empty，3行4列
"""
array([[ 0.00000000e+000, 4.94065646e-324, 9.88131292e-324,
1.48219694e-323],
[ 1.97626258e-323, 2.47032823e-323, 2.96439388e-323,
3.45845952e-323],
[ 3.95252517e-323, 4.44659081e-323, 4.94065646e-323,
5.43472210e-323]])
"""
用 arange 创建连续数组:
a = np.arange(10,20,2) # 10-19 的数据，2步长
"""
array([10, 12, 14, 16, 18])
"""
使用 reshape 改变数据的形状
# a = np.arange(12)
# [ 0 1 2 3 4 5 6 7 8 9 10 11]
a = np.arange(12).reshape((3,4)) # 3行4列，0到11
"""
array([[ 0, 1, 2, 3],
[ 4, 5, 6, 7],
[ 8, 9, 10, 11]])
"""
用 linspace 创建线段型数据:
a = np.linspace(1,10,20) # 开始端1，结束端10，且分割成20个数据，生成线段
"""
array([ 1. , 1.47368421, 1.94736842, 2.42105263,
2.89473684, 3.36842105, 3.84210526, 4.31578947,
4.78947368, 5.26315789, 5.73684211, 6.21052632,
6.68421053, 7.15789474, 7.63157895, 8.10526316,
8.57894737, 9.05263158, 9.52631579, 10. ])
"""
同样也能进行 reshape 工作:
a = np.linspace(1,10,20).reshape((5,4)) # 更改shape
"""
array([[ 1. , 1.47368421, 1.94736842, 2.42105263],
[ 2.89473684, 3.36842105, 3.84210526, 4.31578947],
[ 4.78947368, 5.26315789, 5.73684211, 6.21052632],
[ 6.68421053, 7.15789474, 7.63157895, 8.10526316],
[ 8.57894737, 9.05263158, 9.52631579, 10. ]])
"""
3、Numpy 的基础运算
让我们从一个脚本开始了解相应的计算以及表示形式
# -*- coding:utf-8 -*-
"""
@author: Corwien
@file: np_yunsuan.py
@time: 18/8/26 23:37
"""
import numpy as np
a = np.array([10, 20, 30, 40]) # array([10, 20, 30, 40])
b = np.arange(4) # array([0, 1, 2, 3])
numpy 的几种基本运算
上述代码中的 a 和 b 是两个属性为 array 也就是矩阵的变量，而且二者都是1行4列的矩阵， 其中b矩阵中的元素分别是从0到3。 如果我们想要求两个矩阵之间的减法，你可以尝试着输入：
c=a-b # array([10, 19, 28, 37])
通过执行上述脚本，将会得到对应元素相减的结果，即[10,19,28,37]。 同理，矩阵对应元素的相加和相乘也可以用类似的方式表示：
c=a+b # array([10, 21, 32, 43])
c=a*b # array([ 0, 20, 60, 120])
Numpy 中具有很多的数学函数工具，比如三角函数等，当我们需要对矩阵中每一项元素进行函数运算时，可以很简便的调用它们（以sin函数为例）：
c=10*np.sin(a)
# array([-5.44021111, 9.12945251, -9.88031624, 7.4511316 ])
上述运算均是建立在一维矩阵，即只有一行的矩阵上面的计算，如果我们想要对多行多维度的矩阵进行操作，需要对开始的脚本进行一些修改：
a=np.array([[1,1],[0,1]])
b=np.arange(4).reshape((2,2))
print(a)
# array([[1, 1],
# [0, 1]])
print(b)
# array([[0, 1],
# [2, 3]])
此时构造出来的矩阵 a 和 b 便是 2 行 2 列的，其中 reshape 操作是对矩阵的形状进行重构， 其重构的形状便是括号中给出的数字。 稍显不同的是，Numpy 中的矩阵乘法分为两种， 其一是前文中的对应元素相乘，其二是标准的矩阵乘法运算，即对应行乘对应列得到相应元素：
c_dot = np.dot(a,b)
# array([[2, 4],
# [2, 3]])
除此之外还有另外的一种关于 dot 的表示方法，即：
c_dot_2 = a.dot(b)
# array([[2, 4],
# [2, 3]])
下面我们将重新定义一个脚本, 来看看关于 sum(), min(), max() 的使用：
import numpy as np
a=np.random.random((2,4))
print(a)
# array([[ 0.94692159, 0.20821798, 0.35339414, 0.2805278 ],
# [ 0.04836775, 0.04023552, 0.44091941, 0.21665268]])
因为是随机生成数字, 所以你的结果可能会不一样. 在第二行中对 a 的操作是令 a 中生成一个 2 行 4 列的矩阵，且每一元素均是来自从0到1的随机数。 在这个随机生成的矩阵中，我们可以对元素进行求和以及寻找极值的操作，具体如下：
np.sum(a) # 4.4043622002745959
np.min(a) # 0.23651223533671784
np.max(a) # 0.90438450240606416
对应的便是对矩阵中所有元素进行求和，寻找最小值，寻找最大值的操作。 可以通过print() 函数对相应值进行打印检验。
如果你需要对行或者列进行查找运算，就需要在上述代码中为 axis 进行赋值。 当axis的值为0的时候，将会以列作为查找单元， 当axis的值为1的时候，将会以行作为查找单元。
为了更加清晰，在刚才的例子中我们继续进行查找：
print("a =",a)
# a = [[ 0.23651224 0.41900661 0.84869417 0.46456022]
# [ 0.60771087 0.9043845 0.36603285 0.55746074]]
print("sum =",np.sum(a,axis=1))
# sum = [ 1.96877324 2.43558896]
print("min =",np.min(a,axis=0))
# min = [ 0.23651224 0.41900661 0.36603285 0.46456022]
print("max =",np.max(a,axis=1))
# max = [ 0.84869417 0.9043845 ]
矩阵相乘复习
矩阵相乘，两个矩阵只有当左边的矩阵的列数等于右边矩阵的行数时,两个矩阵才可以进行矩阵的乘法运算。 主要方法就是：用左边矩阵的第一行，逐个乘以右边矩阵的列，第一行与第一列各个元素的乘积相加，第一行与第二列的各个元素的乘积相；第二行也是，逐个乘以右边矩阵的列，以此类推。
示例：
下面我给大家举个例子
矩阵A=1 2 3
4 5 6
7 8 0
矩阵B=1 2 1
1 1 2
2 1 1
求AB
最后的得出结果是
AB=9 7 8
21 19 20
15 22 23
使用 numpy 计算：
e = np.array([[1, 2, 3], [4, 5, 6], [7, 8, 0]])
f = np.array([[1, 2, 1], [1, 1, 2], [2, 1, 1]])
res_dot = np.dot(e, f)
print res_dot
打印结果：
[[ 9 7 8]
[21 19 20]
[15 22 23]]
通过以上介绍，我们可以了解到一部分矩阵中元素的计算和查找操作。然而在日常使用中，对应元素的索引也是非常重要的。依然，让我们先从一个脚本开始 ：
# -*- coding:utf-8 -*-
"""
@author: Corwien
@file: np_yunsuan.py
@time: 18/8/26 23:37
"""
import numpy as np
A = np.arange(2, 14).reshape(3, 4)
# array([[ 2, 3, 4, 5]
# [ 6, 7, 8, 9]
# [10,11,12,13]])
print(np.argmin(A)) # 0
print(np.argmax(A)) # 11
常用方法
其中的 argmin() 和 argmax() 两个函数分别对应着求矩阵中最小元素和最大元素的索引。相应的，在矩阵的12个元素中，最小值即2，对应索引0，最大值为13，对应索引为11。
如果需要计算统计中的均值，可以利用下面的方式，将整个矩阵的均值求出来：
print(np.mean(A)) # 7.5
print(np.average(A)) # 7.5
仿照着前一节中 dot() 的使用法则，mean() 函数还有另外一种写法：
print(A.mean()) # 7.5
同样的，我们可以写出求解中位数的函数：
print(A.median()) # 7.5
另外，和 matlab 中的 cumsum() 累加函数类似，Numpy 中也具有 cumsum() 函数，其用法如下：
print(np.cumsum(A))
# [2 5 9 14 20 27 35 44 54 65 77 90]
在 cumsum() 函数中：生成的每一项矩阵元素均是从原矩阵首项累加到对应项的元素之和。比如元素9，在 cumsum() 生成的矩阵中序号为3，即原矩阵中2，3，4三个元素的和。
下面我们介绍一下 nonzero() 函数：
print(np.nonzero(A))
# (array([0,0,0,0,1,1,1,1,2,2,2,2]),array([0,1,2,3,0,1,2,3,0,1,2,3]))
这个函数将所有非零元素的行与列坐标分割开，重构成两个分别关于行和列的矩阵。
索引
一维索引
在元素列表或者数组中，我们可以用如同 a[2] 一样的表示方法，同样的，在 Numpy 中也有相对应的表示方法：
# -*- coding:utf-8 -*-
"""
@author: Corwien
@file: np_index.py
@time: 18/8/28 00:49
"""
import numpy as np
A = np.arange(3, 11)
print(A) # [3 4 5 6 7 8 9 10]
print(A[3]) # 6
让我们将矩阵转换为二维的，此时进行同样的操作：
A = np.arange(3, 11).reshape(2, 4)
"""
[[ 3 4 5 6]
[ 7 8 9 10]]
"""
print(A[1]) # [ 7 8 9 10]
实际上这时的 A[1] 对应的就是矩阵 A 中第二行(从0开始算第一行)的所有元素。
二维索引
如果你想要表示具体的单个元素，可以仿照上述的例子：
print(A[1][1]) # 8
此时对应的元素即 A[1][1]，在 A 中即横纵坐标都为 1，第二行第二列的元素，即8（因为计数从 0 开始）。同样的还有其他的表示方法：
print(A[1, 1]) # 8
在 Python 的 list 中，我们可以利用:对一定范围内的元素进行切片操作，在 Numpy 中我们依然可以给出相应的方法：
print(A[1, 1:3]) # [8 9]
这一表示形式即针对第二行中第2到第4列元素进行切片输出（不包含第4列）。
此时我们适当的利用for函数进行打印：
for row in A:
print(row)
"""
[ 3, 4, 5, 6]
[ 7, 8, 9, 10]
"""
此时它会逐行进行打印操作。如果想进行逐列打印，就需要稍稍变化一下：
for column in A.T:
print(column)
"""
[3 7]
[4 8]
[5 9]
[ 6 10]
"""
上述表示方法即对A进行转置，再将得到的矩阵逐行输出即可得到原矩阵的逐列输出。
最后依然说一些关于迭代输出的问题：
import numpy as np
A = np.arange(3,15).reshape((3,4))
print(A.flatten())
# array([3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14])
for item in A.flat:
print(item)
# 3
# 4
……
# 14
这一脚本中的 flatten 是一个展开性质的函数，将多维的矩阵进行展开成 1 行的数列。而 flat 是一个迭代器，本身是一个 object 属性。
合并
分割
创建数据
# -*- coding:utf-8 -*-
"""
@author: Corwien
@file: np_split.py
@time: 18/8/28 01:21
"""
import numpy as np
A = np.arange(12).reshape((3, 4))
print(A)
"""
array([[ 0, 1, 2, 3],
[ 4, 5, 6, 7],
[ 8, 9, 10, 11]])
"""
纵向分割
print(np.split(A, 2, axis=1))
"""
[array([[0, 1],
[4, 5],
[8, 9]]), array([[ 2, 3],
[ 6, 7],
[10, 11]])]
"""
横向分割
print(np.split(A, 3, axis=0))
# [array([[0, 1, 2, 3]]), array([[4, 5, 6, 7]]), array([[ 8, 9, 10, 11]])]
错误的分割
范例的Array只有4列，只能等量对分，因此输入以上程序代码后Python就会报错。
为了解决这种情况, 我们会有下面这种方式.
print(np.split(A, 3, axis=1))
# ValueError: array split does not result in an equal division
不等量的分割
在机器学习时经常会需要将数据做不等量的分割，因此解决办法为np.array_split()
成功将Array不等量分割!
print(np.array_split(A, 3, axis=1))
"""
[array([[0, 1],
[4, 5],
[8, 9]]), array([[ 2],
[ 6],
[10]]), array([[ 3],
[ 7],
[11]])]
"""
其他的分割方式
在numpy里还有np.vsplit()与横np.hsplit()方式可用。
print(np.vsplit(A, 3)) #等于 print(np.split(A, 3, axis=0))
# [array([[0, 1, 2, 3]]), array([[4, 5, 6, 7]]), array([[ 8, 9, 10, 11]])]
print(np.hsplit(A, 2)) #等于 print(np.split(A, 2, axis=1))
"""
[array([[0, 1],
[4, 5],
[8, 9]]), array([[ 2, 3],
[ 6, 7],
[10, 11]])]
"""
copy & deep copy
= 的赋值方式会带有关联性
import numpy as np
a = np.arange(4)
# array([0, 1, 2, 3])
b = a
c = a
d = b
改变a的第一个值，b、c、d的第一个值也会同时改变。
a[0] = 11
print(a)
# array([11, 1, 2, 3])
确认 b、c、d 是否与 a 相同。
b is a # True
c is a # True
d is a # True
同样更改d的值，a、b、c也会改变。
d[1:3] = [22, 33] # array([11, 22, 33, 3])
print(a) # array([11, 22, 33, 3])
print(b) # array([11, 22, 33, 3])
print(c) # array([11, 22, 33, 3])
copy() 的赋值方式没有关联性
deep copy 为深赋值，重新建了一个地址
b = a.copy() # deep copy
print(b) # array([11, 22, 33, 3])
a[3] = 44
print(a) # array([11, 22, 33, 44])
print(b) # array([11, 22, 33, 3])
此时 a 与 b 已经没有关联，今天的介绍到此结束。
之后会为大家介绍 Pandas......
联系客服
