Add files via upload

Author: Visualize-ML

Book5_Ch02_Python_Codes/Bk5_Ch02_01.ipynb

@@ -0,0 +1,57 @@
+
+###############
+# Authored by Weisheng Jiang
+# Book 5  |  From Basic Arithmetic to Machine Learning
+# Published and copyrighted by Tsinghua University Press
+# Beijing, China, 2025
+###############
+
+import streamlit as st  # 导入Streamlit库，用于创建交互式Web应用程序
+from scipy.stats import beta  # 从SciPy库中导入Beta分布相关函数
+import matplotlib.pyplot as plt  # 导入Matplotlib库，用于绘图
+import numpy as np  # 导入NumPy库，用于数值计算
+
+x_array = np.linspace(0, 1, 200)  # 生成一个包含200个点的数组，范围在[0,1]，用于绘制Beta分布的PDF
+
+with st.sidebar:  # 在Streamlit的侧边栏中添加内容
+    st.write('Beta distribution PDF')  # 在侧边栏显示标题文字
+    st.latex(r'''
+             {\displaystyle {\begin{aligned}f(x;\alpha ,\beta )&=
+                             \mathrm {constant} \cdot x^{\alpha -1}(1-x)^{\beta -1}\\
+                                 &=
+                             {\frac {x^{\alpha -1}(1-x)^{\beta -1}}
+                              {\displaystyle \int _{0}^{1}u^{\alpha -1}
+                               (1-u)^{\beta -1}\,du}}\\
+                                 &=
+                             {\frac {\Gamma (\alpha +\beta )}
+                              {\Gamma (\alpha )\Gamma (\beta )}}\,x^{\alpha -1}(1-x)^{\beta -1}\\
+                                 &=
+                                 {\frac {1}{\mathrm {B} (\alpha ,\beta )}}
+                                 x^{\alpha -1}(1-x)^{\beta -1}\end{aligned}}}
+             ''')  # 显示Beta分布概率密度函数的LaTeX公式
+             
+    alpha_input = st.slider('alpha', min_value=0.0, max_value=10.0, value=2.0, step=0.1)  # 创建一个滑块，用于调整参数α
+    beta_input  = st.slider('beta', min_value=0.0, max_value=10.0, value=2.0, step=0.1)  # 创建另一个滑块，用于调整参数β
+
+mean_loc  = alpha_input / (alpha_input + beta_input)  # 计算Beta分布的均值
+pdf_array = beta.pdf(x_array, alpha_input, beta_input)  # 计算x_array对应的Beta分布PDF值
+
+fig, ax = plt.subplots(figsize=(8, 8))  # 创建一个大小为8x8的图表
+
+title_idx = '\u03B1 = ' + str(alpha_input) + '; \u03B2 = ' + str(beta_input)  # 设置标题，显示当前α和β的值
+ax.plot(x_array, pdf_array, 'b', lw=1)  # 绘制Beta分布PDF曲线，蓝色线条，线宽为1
+
+ax.axvline(x=mean_loc, c='r', ls='--')  # 在均值位置绘制一条红色虚线
+ax.set_title(title_idx)  # 设置图表标题
+ax.set_xlim(0, 1)  # 设置x轴范围为[0,1]
+ax.set_ylim(0, 4)  # 设置y轴范围为[0,4]
+ax.set_xticks([0, 0.5, 1])  # 设置x轴刻度为0, 0.5, 1
+ax.set_yticks([0, 2, 4])  # 设置y轴刻度为0, 2, 4
+ax.spines.right.set_visible(False)  # 隐藏右边框线
+ax.spines.top.set_visible(False)  # 隐藏上边框线
+ax.yaxis.set_ticks_position('left')  # 将y轴刻度设置在左侧
+ax.xaxis.set_ticks_position('bottom')  # 将x轴刻度设置在底部
+ax.tick_params(axis="x", direction='in')  # 设置x轴刻度向内
+ax.tick_params(axis="y", direction='in')  # 设置y轴刻度向内
+
+st.pyplot(fig)  # 在Streamlit应用中显示绘制的图表

Book5_Ch02_Python_Codes/X_df_iris.pkl

@@ -0,0 +1,60 @@
+
+###############
+# Authored by Weisheng Jiang
+# Book 5  |  From Basic Arithmetic to Machine Learning
+# Published and copyrighted by Tsinghua University Press
+# Beijing, China, 2025
+###############
+
+
+import streamlit as st  # 导入Streamlit库，用于构建交互式Web应用程序
+from scipy.stats import dirichlet  # 从SciPy库中导入Dirichlet分布相关函数
+import matplotlib.pyplot as plt  # 导入Matplotlib库，用于绘图
+import numpy as np  # 导入NumPy库，用于数值计算
+
+x_array = np.linspace(0, 1, 200)  # 创建一个数组，包含[0, 1]范围内的200个点，用于绘图或计算
+
+with st.sidebar:  # 在Streamlit应用程序的侧边栏中添加内容
+    st.write('Dirichlet distribution PDF')  # 显示标题文字
+    st.latex(r'''
+             {\displaystyle f\left(x_{1},\ldots ,x_{K};\alpha _{1},\ldots ,\alpha _{K}\right)=
+              {\frac {1}{\mathrm {B} ({\boldsymbol {\alpha }})}}\prod _{i=1}^{K}x_{i}^{\alpha _{i}-1}}''')  # 显示Dirichlet分布的PDF公式
+             
+    st.latex(r'''{\displaystyle \mathrm {B} ({\boldsymbol {\alpha }})=
+             {\frac {\prod \limits _{i=1}^{K}\Gamma (\alpha _{i})}{\Gamma \left(\sum \limits _{i=1}^{K}\alpha _{i}\right)}},\qquad {\boldsymbol {\alpha }}=(\alpha _{1},\ldots ,\alpha _{K}).}''')  # 显示Dirichlet分布的归一化常数公式
+    
+    alpha_1_input = st.slider('alpha_1', min_value=1.0, max_value=10.0, value=2.0, step=0.1)  # 创建一个滑块，用于设置α_1参数
+    alpha_2_input = st.slider('alpha_2', min_value=1.0, max_value=10.0, value=2.0, step=0.1)  # 创建一个滑块，用于设置α_2参数
+    alpha_3_input = st.slider('alpha_3', min_value=1.0, max_value=10.0, value=2.0, step=0.1)  # 创建一个滑块，用于设置α_3参数
+
+rv = dirichlet([alpha_1_input, alpha_2_input, alpha_3_input])  # 根据输入的α参数创建一个Dirichlet分布对象
+
+x1 = np.linspace(0, 1, 201)  # 生成x_1的值范围，包含201个点
+x2 = np.linspace(0, 1, 201)  # 生成x_2的值范围，包含201个点
+
+xx1, xx2 = np.meshgrid(x1, x2)  # 创建网格点，用于在二维空间表示x_1和x_2的取值
+
+xx3 = 1.0 - xx1 - xx2  # 计算x_3的值，满足Dirichlet分布的条件x_1 + x_2 + x_3 = 1
+xx3 = np.where(xx3 > 0.0, xx3, np.nan)  # 如果x_3的值小于0，将其替换为NaN，避免无效计算
+
+PDF_ff = rv.pdf(np.array(([xx1.ravel(), xx2.ravel(), xx3.ravel()])))  # 计算每个网格点对应的Dirichlet分布PDF值
+PDF_ff = np.reshape(PDF_ff, xx1.shape)  # 将PDF值重新形状化为与网格一致的形状
+
+import plotly as py  # 导入Plotly库，用于高级绘图
+import plotly.graph_objects as go  # 从Plotly库中导入图形对象
+from plotly.subplots import make_subplots  # 导入子图创建函数
+
+fig = make_subplots(rows=1, cols=1,
+                    specs=[[{'is_3d': True}]])  # 创建一个3D子图，包含1行1列
+
+fig.add_trace(go.Surface(x=xx1, y=xx2, z=xx3, surfacecolor=PDF_ff, colorscale='RdYlBu_r'), 1, 1)  
+# 添加3D表面图，x和y为网格点，z为x_3，颜色根据PDF值设置，使用‘RdYlBu_r’颜色映射
+
+fig.update_layout(scene=dict(
+                    xaxis_title=r'x_1',  # 设置x轴标题为x_1
+                    yaxis_title=r'x_2',  # 设置y轴标题为x_2
+                    zaxis_title=r'x_3'),  # 设置z轴标题为x_3
+                    width=700,  # 设置图形宽度
+                    margin=dict(r=20, b=10, l=10, t=10))  # 设置图形边距
+
+st.plotly_chart(fig, use_container_width=True)  # 在Streamlit应用程序中显示Plotly图表，并使图表适应容器宽度

Book5_Ch02_Python_Codes/iris_sns.pkl

@@ -0,0 +1,67 @@
+
+###############
+# Authored by Weisheng Jiang
+# Book 5  |  From Basic Arithmetic to Machine Learning
+# Published and copyrighted by Tsinghua University Press
+# Beijing, China, 2025
+###############
+
+import streamlit as st  # 导入Streamlit库，用于创建交互式Web应用程序
+from scipy.stats import beta  # 从SciPy库导入Beta分布相关函数（此代码未使用）
+import matplotlib.pyplot as plt  # 导入Matplotlib库，用于绘图
+import numpy as np  # 导入NumPy库，用于数值计算
+
+def uni_normal_pdf(x, mu, sigma):  # 定义一个函数，用于计算一元正态分布的概率密度函数
+    coeff = 1 / np.sqrt(2 * np.pi) / sigma  # 计算正态分布的系数部分 1/(σ√(2π))
+    z = (x - mu) / sigma  # 计算标准化后的值 (x-μ)/σ
+    f_x = coeff * np.exp(-1 / 2 * z**2)  # 计算概率密度值 f(x) = coeff * exp(-1/2 * z^2)
+    return f_x  # 返回概率密度值
+
+x_array = np.linspace(-5, 5, 200)  # 创建一个包含[-5, 5]范围内200个点的数组，用于绘制PDF
+
+with st.sidebar:  # 在Streamlit的侧边栏中添加控件
+    mu_input = st.slider('mu', min_value=-5.0, max_value=5.0, value=0.0, step=0.2)  
+    # 添加滑块控件，用于调整正态分布的均值μ，初始值为0.0，范围[-5, 5]，步长为0.2
+    sigma_input = st.slider('sigma', min_value=0.0, max_value=4.0, value=1.0, step=0.1)  
+    # 添加滑块控件，用于调整正态分布的标准差σ，初始值为1.0，范围[0, 4]，步长为0.1
+
+st.write('Univariate Gaussian distribution PDF')  # 在主页面显示正态分布的标题
+st.latex(r'''{\displaystyle f(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}e^{-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}}}''')  
+# 在主页面显示正态分布的LaTeX公式
+
+pdf_array = uni_normal_pdf(x_array, mu_input, sigma_input)  # 计算用户选择参数下的正态分布PDF值
+
+fig, ax = plt.subplots(figsize=(8, 5))  # 创建一个大小为8x5的绘图窗口
+
+ax.plot(x_array, pdf_array, 'b', lw=1)  
+# 绘制用户选择参数下的正态分布PDF曲线，蓝色线条，线宽为1
+
+ax.axvline(x=mu_input, c='r', ls='--')  
+# 在均值位置绘制一条红色虚线
+ax.axvline(x=mu_input + sigma_input, c='r', ls='--')  
+# 在均值加标准差位置绘制一条红色虚线
+ax.axvline(x=mu_input - sigma_input, c='r', ls='--')  
+# 在均值减标准差位置绘制一条红色虚线
+
+# 绘制标准正态分布
+ax.plot(x_array, uni_normal_pdf(x_array, 0, 1), c=[0.8, 0.8, 0.8], lw=1)  
+# 绘制标准正态分布PDF曲线，灰色线条，线宽为1
+
+ax.axvline(x=0, c=[0.8, 0.8, 0.8], ls='--')  
+# 在标准正态分布均值位置绘制灰色虚线
+ax.axvline(x=0 + 1, c=[0.8, 0.8, 0.8], ls='--')  
+# 在标准正态分布均值加标准差位置绘制灰色虚线
+ax.axvline(x=0 - 1, c=[0.8, 0.8, 0.8], ls='--')  
+# 在标准正态分布均值减标准差位置绘制灰色虚线
+
+ax.set_xlim(-5, 5)  # 设置x轴范围为[-5, 5]
+ax.set_ylim(0, 1)  # 设置y轴范围为[0, 1]
+
+ax.spines.right.set_visible(False)  # 隐藏右边框线
+ax.spines.top.set_visible(False)  # 隐藏上边框线
+ax.yaxis.set_ticks_position('left')  # 将y轴刻度设置在左侧
+ax.xaxis.set_ticks_position('bottom')  # 将x轴刻度设置在底部
+ax.tick_params(axis="x", direction='in')  # 设置x轴刻度线向内
+ax.tick_params(axis="y", direction='in')  # 设置y轴刻度线向内
+
+st.pyplot(fig)  # 在Streamlit应用程序中显示绘制的图表

Book5_Ch03_Python_Codes/Bk5_Ch03_01.ipynb

@@ -0,0 +1,96 @@
+
+
+###############
+# Authored by Weisheng Jiang
+# Book 5  |  From Basic Arithmetic to Machine Learning
+# Published and copyrighted by Tsinghua University Press
+# Beijing, China, 2025
+###############
+
+import numpy as np
+import matplotlib.pyplot as plt
+from scipy.stats import multivariate_normal
+from matplotlib import cm # 导入 matplotlib 中的颜色映射功能
+import streamlit as st # 导入 Streamlit 库，用于创建交互式 Web 应用程序
+
+# 使用 Streamlit 创建侧边栏，允许用户调整参数
+with st.sidebar:
+    rho = st.slider('rho', min_value = -0.95, max_value = 0.95, value = 0.0, step = 0.05) # 相关系数 rho 的滑块
+    sigma_X = st.slider('sigma_X', min_value = 0.5, max_value = 3.0, value = 1.0, step = 0.1) # X 的标准差滑块
+    sigma_Y = st.slider('sigma_Y', min_value = 0.5, max_value = 3.0, value = 1.0, step = 0.1) # Y 的标准差滑块
+
+# 设置均值 μ_X 和 μ_Y 为 0
+mu_X = 0 
+mu_Y = 0
+
+# 显示标题和公式
+st.write('Bivariate Gaussian distribution PDF') # 显示标题
+st.latex(r'''{\displaystyle f(x,y)={\frac {1}{2\pi \sigma _{X}\sigma _{Y}{\sqrt {1-\rho ^{2}}}}}\exp \left(-{\frac {1}{2(1-\rho ^{2})}}\left[\left({\frac {x-\mu _{X}}{\sigma _{X}}}\right)^{2}-2\rho \left({\frac {x-\mu _{X}}{\sigma _{X}}}\right)\left({\frac {y-\mu _{Y}}{\sigma _{Y}}}\right)+\left({\frac {y-\mu _{Y}}{\sigma _{Y}}}\right)^{2}\right]\right)}''')
+# 显示双变量正态分布概率密度函数的数学公式
+
+# 构造均值和协方差矩阵
+mu    = [mu_X, mu_Y] # 均值向量
+Sigma = [[sigma_X**2, sigma_X*sigma_Y*rho], # 协方差矩阵
+        [sigma_X*sigma_Y*rho, sigma_Y**2]]
+
+# 定义绘图范围和网格
+width = 4 # 定义 X 和 Y 的绘图范围宽度
+X = np.linspace(-width,width,321) # 在 [-width, width] 范围内生成 321 个 X 坐标点
+Y = np.linspace(-width,width,321) # 在 [-width, width] 范围内生成 321 个 Y 坐标点
+
+XX, YY = np.meshgrid(X, Y) # 生成网格
+
+XXYY = np.dstack((XX, YY)) # 将 X 和 Y 网格堆叠为三维数组
+bi_norm = multivariate_normal(mu, Sigma) # 定义双变量正态分布
+
+#%% 计算联合 PDF 并进行可视化
+f_X_Y_joint = bi_norm.pdf(XXYY) # 计算联合概率密度函数的值
+
+# 3D 可视化
+fig = plt.figure() # 创建新的图形对象
+ax = fig.add_subplot(projection='3d') # 添加 3D 子图
+
+ax.plot_wireframe(XX,YY, f_X_Y_joint,
+                  rstride=10, cstride=10, # 设置网格线步长
+                  color = [0.3,0.3,0.3], # 设置颜色
+                  linewidth = 0.25) # 设置网格线宽度
+
+ax.contour3D(XX,YY, f_X_Y_joint,15, # 添加 3D 等高线
+             cmap = 'RdYlBu_r') # 使用红黄蓝颜色映射
+
+# 设置轴标签
+ax.set_xlabel('$x$') 
+ax.set_ylabel('$y$') 
+ax.set_zlabel('$f_{X,Y}(x,y)$') 
+
+ax.set_proj_type('ortho') # 设置正交投影
+# 修改轴网格线的样式
+ax.xaxis._axinfo["grid"].update({"linewidth":0.25, "linestyle" : ":"})
+ax.yaxis._axinfo["grid"].update({"linewidth":0.25, "linestyle" : ":"})
+ax.zaxis._axinfo["grid"].update({"linewidth":0.25, "linestyle" : ":"})
+
+# 设置绘图范围
+ax.set_xlim(-width, width) 
+ax.set_ylim(-width, width) 
+ax.set_zlim(f_X_Y_joint.min(),f_X_Y_joint.max()) 
+
+# 设置视角
+ax.view_init(azim=-120, elev=30) # 设置方位角和仰角
+plt.tight_layout() # 调整布局以避免重叠
+
+st.pyplot(fig) # 在 Streamlit 中显示图形
+
+#%% 绘制填充等高线图
+fig, ax = plt.subplots(figsize=(7, 7)) # 创建新的图形和子图
+
+# 绘制双变量正态分布的填充等高线
+plt.contourf(XX, YY, f_X_Y_joint, 20, cmap=cm.RdYlBu_r) # 使用填充等高线
+plt.axvline(x = mu_X, color = 'k', linestyle = '--') # 绘制垂直线表示 μ_X
+plt.axhline(y = mu_Y, color = 'k', linestyle = '--') # 绘制水平线表示 μ_Y
+
+# 设置轴标签
+ax.set_xlabel('$x$') 
+ax.set_ylabel('$y$') 
+
+st.pyplot(fig) # 在 Streamlit 中显示图形
+