单片机_简单AI模型训练与部署__从0到0.9

IDE： CLion

MCU： STM32F407VET6

一、导向

以求知为导向，从问题到寻求问题解决的方法，以兴趣驱动学习。

        虽从0，但不到1，剩下的那一小步将由你迈出。本篇主要目的是体验完整的一次简单AI模型部署流程，从数据采集到模型创建与训练，再到部署单片机上。选定的训练方向也非常简单，既不是手势识别、语音识别等这些较为复杂的模型，也不是使用一些第三方的预训练模型，而是简简单单地“调包”搭建一个判断输入数字大小的小模型，比如在判断输入数据是否小于24。最终生成的C代码其内存、存储占用均为10KB，也可缩减至不到1KB

        既然是“从零开始”，那么就不需要介绍太多复杂的术语解释，但一些基本的概念还是需要了解的。该篇最主要的目的就是体验，不需要知道太多为什么，真正上手实践后，再自行学习。

        此处所指的单片机是STM32系列（stm32f407vet6）

二、流程

1，STM32CubeMX的AI插件

        想要触碰一个未曾熟知的领域，最重要的是要搜集信息，了解要干什么、怎么干，然后简单体验一番。那么第一步来了，我们的问题很简单，stm32单片机上怎么跑AI。带着这个问题我们使用搜索引擎可以得到一些博客，什么模型搭建、部署什么的可能也听不大懂。

        但从这些博客里我们可以找到一个共同点，那就是都使用到了STM32CubeMX，虽然AI模型相关的不太懂，但这个工具软件可太熟了。

        从这里我们可以获取另一个关键点，就目前所获取的信息来看stm32单片机上跑AI应是依赖STM32CubeMX的AI插件的。至于怎么配置这个AI插件，相关的博客有很多

 

2，AI模型

        当你兴冲冲地使用CubeMX上的AI插件时，你可能会发现，缺少一件东西——AI模型

        回想到前面回答中，通义（通义千问）说过导入模型

        虽然网上相关博客有不少，什么手势识别、神经网络算法等等，但几乎没有几个是直接给你一个AI模型的，要么是到官网的github上找，要么是什么云盘。总之对于初学者而言，是有一些麻烦的

        接下来继续发挥“不会就问”的精神

        通义给了我们四个方案，但无论是官方给的，还是用什么第三方的，亦或者使用预训练模型的，总之都是有一些难度的。四种方案你可以逐一尝试，尝试下来后，你可能会发现预训练、官方模型库、第三方库这些方案太难了，因为涉及到大量陌生知识。

        自己训练模型看着比较可行，因为从下面可以看到，自己训练一个简单模型就两步，收集数据和python编程来训练模型。无论是收集数据，还是编程，似乎都是非常清晰的过程。

        当然，上面的结论也是问出来的。当通义给你一个问题的回答，而你对其中的一些概念又含混不清的时候，你可以把自己的猜测反问给通义，且不必担心通义出言不逊。

        反问后，无论你的猜测是否正确，你最终都会被指导一个正确的方向。

        既然确定了步骤，不妨问问更细节的一些东西，这里需要自行提问，下面提供一个简单的示例

3，数据采集

        前面说过，既然是初学者，那么一切从简，怎么简单怎么来。这里先说一个前置信息，AI模型训练需要的数据集，一般是保存在.csv文件里的，打开后你会发现这跟Excel表格大差不差。

        使用记事本打开后，你会发现头部会有一些标签，数据是按照列来排布的

        左边那一列是输入的数据，右边那一列是输出的结果，当然也可以称为类别

        训练AI模型时，会用你收集到的这个数据集训练，以图中这个数据为例（二分类问题），给它左边的输入数据，让AI模型输出，然后与数据集中的右边的输出对比，来判断AI预测的结果，之后AI再不断调整权重、参数什么的，让预测更加精准。

        这些前置信息，你自己也是可以收集的。这里，我们是需要一个数据集来帮我们训练，也知道数据集长成什么样子。从一些博客或者AI我们可以了解到，一般的数据集都是什么图像相关的，什么矩阵、像素、灰度之类的，那显然还是有些难度的。

        所以接下来，我们讨论更简单的情况，就是给AI一个数据，让它判断是不是小于一个数，小于就输出1，大于就输出0。是不是简单很多了？

4、训练模型

        我们首先要清楚，STM32上跑的这个AI模型其实是神经网络模型，它们之间的关系是这样的：

        AI（人工智能）>  机器学习 > 深度学习 >  神经网络模型（非传统神经网络）

        总之经过一系列问询之后，我们可以选择Keras 和TensorFlow Lite。这是一个神经网络框架，不要害怕陌生的术语名称，它只是用于训练AI的工具（你也可以理解为库或包）。

        这里我补充一点就是，STM32CubeMX其实对Keras的支持其实并不算好，我们后续真正使用的是后者。

三、采集数据

        正如前面所言，为了简单体验这个流程，我们就以那个判断数字是否小于某个数为训练目的。当体验过这个简单流程后，你可以放飞自我去训练了。

        这里不说怎么安装Pycharm什么的，因为这是最基本的能力。

        现在我们把训练目的具体化：在0-100内，判断出这个数据是否小于24。那么我们就需要生成这样的数据，为了保真，还得让数据随机起来，且小于24的和大于24的概率还不同，以增加些许难度。

        这个数据可以使用python生成，那么怎么写python脚本呢？从变量命名、标识符开始学一遍python？那是大可不必的，不需要掌握python（因为你至少已掌握了C语言），只需要知道怎么让通义生成正确的代码就行了

        通义生成的代码不一定可用，你把报错信息或者调试信息给它，提供给它需求，让它不断更新代码直至生成可用的代码。这里不展开细节了，下面就是可用的python代码，如果你是新安装的pycharm，那么可能会提示安装一些库，安装软件包的过程可能会有些漫长，这都是正常现象。有时间了可以自行查资料解决

import numpy as np
import pandas as pd# 参数设置
filename = 'simulated_data.csv'
num_points = 100000
threshold = 24  # 触发阈值
low_value_frequency = 0.33  # 低于24的值的概率# 生成数据
np.random.seed(0)
data = np.random.randint(0, 101, num_points)  # 生成0到100的整型数据# 生成低于24的值
low_values = np.random.binomial(1, low_value_frequency, num_points)
data[low_values == 1] = np.random.randint(0, 24, np.sum(low_values))# 标记是否触发阈值
labels = (data < threshold).astype(int)# 创建DataFrame
df = pd.DataFrame({'value': data, 'label': labels})# 保存到CSV文件
df.to_csv(filename, index=False)print(f"数据已生成并保存到 {filename}")

        正确执行完后，当前目录下就会有一个simulated_data.csv文件。

四、训练模型

        虽然听着不明觉厉，其实这里我们只用非常简单有限的步骤，因为框架已经帮我们做好了绝大部分工作了。

        问询你可以描述得更加具体

        总之，多次让AI改进后，可以得到了一份可以训练刚才数据的代码

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
from keras.src.callbacks import ModelCheckpoint
from keras.src.layers import GRU
from sklearn.model_selection import train_test_split
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense
from tensorflow.keras.models import save_model
import tensorflow as tf
import subprocess# 数据加载
df = pd.read_csv('simulated_data.csv')
X = df['value'].values.reshape(-1, 1)  # 特征值需要reshape为2D数组
y = df['label'].values# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)# 创建模型
model = Sequential([Dense(10, input_shape=(1,), activation='relu'),  # 输入层（同时也是隐藏层）# Dense(1, activation='sigmoid')  # 输出层# GRU(16, input_shape=(1, 1), return_sequences=False),  # 添加GRU层，32个单元，输入形状为 (1, 1)，不返回序列Dense(18, activation='relu'),  # 添加一个全连接层，32个神经元，使用ReLU激活函数Dense(1, activation='sigmoid')  # 添加全连接层，输出1个节点，使用sigmoid激活函数
])# 编译模型
model.compile(optimizer='adam', loss='binary_crossentropy', metrics=['accuracy'])# 设置 ModelCheckpoint 回调函数
checkpoint = ModelCheckpoint('best_model.keras', monitor='val_accuracy', save_best_only=True, mode='max')# 训练模型
history = model.fit(X_train, y_train, validation_data=(X_test, y_test), epochs=78, batch_size=60)# 绘制训练过程中的损失
plt.figure(figsize=(12, 6))
plt.plot(history.history['loss'], label='Training Loss')
plt.plot(history.history['val_loss'], label='Validation Loss')
plt.title('Model Loss')
plt.xlabel('Epochs')
plt.ylabel('Loss')
plt.legend()
plt.show()# 绘制训练过程中的准确率
plt.figure(figsize=(12, 6))
plt.plot(history.history['accuracy'], label='Training Accuracy')
plt.plot(history.history['val_accuracy'], label='Validation Accuracy')
plt.title('Model Accuracy')
plt.xlabel('Epochs')
plt.ylabel('Accuracy')
plt.legend()
plt.show()# 模型保存
save_model(model, 'model/stm32_model.keras')
# 将 .keras 模型转换为 .tflite 格式
converter = tf.lite.TFLiteConverter.from_keras_model(model)# # 使用 Select TF Ops，虽然允许把Keras转为TFLite模型，但是CubeMX的AI插件不支持
# converter.target_spec.supported_ops = [
#     tf.lite.OpsSet.TFLITE_BUILTINS,  # 支持 TFLite 内置操作
#     tf.lite.OpsSet.SELECT_TF_OPS     # 支持 TensorFlow 原生操作
# ]
# # 禁用实验性降低张量列表操作
# converter._experimental_lower_tensor_list_ops = Falsetflite_model = converter.convert()# 保存 TFLite 模型
with open('model/stm32_model.tflite', 'wb') as f:f.write(tflite_model)
print("TFLite 模型已保存")# # 下面出了问题
# # 加载最佳模型
# best_model = tf.keras.models.load_model('best_model.keras')
#
# # 保存最佳模型
# save_model(best_model, 'model/stm32_best_model.keras')
#
# # 将 .keras 模型转换为 .tflite 格式
# # 转换模型
# tflite_model = converter.convert()
#
# # 保存 TFLite 模型
# with open('model/stm32_best_model.tflite', 'wb') as f:
#     f.write(tflite_model)
#
# print("TFLite best模型已保存")

        这个代码，即便你安装了所有软件包可能还会报错，这都是正常现象，可以不用管它

        训练模型这一步，步骤非常清晰明了

①加载数据

②创建模型

这里面可以看到三个函数，也就是三层神经网络，你想要增加，就再添加一个函数即可。只不过经过我的测试和官方文档说明，无法使用更加复杂的层，比如GRU层（陌生术语稍微过一下就行，暂时可以不必深究）

③编译模型

        回调函数先不用管它，可加可不加

④训练模型

        这里只要注意这两个参数即可，一个是epochs，另一个是batch_size。前者是训练轮数，后者是每批次训练的数据量

⑤评估模型

        这里其实就是图形化显示训练的结果，什么准确率、损失什么的

⑥保存模型

        这里可以看到，一开始模型格式为.keras，后面就编程了.tflite。原因就是前者格式STM32CubeMX的AI插件经常无法正常加载，报一些奇奇怪怪的错。

既然这样，我们看看运行之后是什么样子的

如果这是你的第一个AI模型，成就感满满了不是

右边的第二张图（还有一张在小窗口里），可以看到随着训练轮次增加，准确率也逐渐增加

        我们单看某一次的，可以发现正确率已经达到0.9988了，因为问题比较简单嘛。有时会达到1.00

五、部署推理

        既然模型已经训练完毕，接下来我们就可以在本地部署，然后进行推理看看效果怎么样。（加载训练好的模型，然后输入数据，看看AI的输出是什么样的）

        不过在此之前我们还要生成100个模拟数据，当做实际中的数据，用于验证模型的推理效果。

import numpy as np
import pandas as pd# 参数设置
filename = 'simulated_data1.csv'
num_points = 100
threshold = 24  # 触发阈值
low_value_frequency = 0.33  # 低于24的值的概率# 生成数据
np.random.seed(0)
data = np.random.randint(0, 101, num_points)  # 生成0到100的整型数据# 生成低于24的值
low_values = np.random.binomial(1, low_value_frequency, num_points)
data[low_values == 1] = np.random.randint(0, 24, np.sum(low_values))# 标记是否触发阈值
labels = (data < threshold).astype(int)# 创建DataFrame
df = pd.DataFrame({'value': data, 'label': labels})# 保存到CSV文件
df.to_csv(filename, index=False)print(f"数据已生成并保存到 {filename}")

然后就是推理（预测）了

import numpy as np
from tensorflow.keras.models import load_model
import pandas as pd
import matplotlib.pyplot as plt# 设置 matplotlib 使用的字体
plt.rcParams['font.sans-serif'] = ['SimHei']  # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False  # 用来正常显示负号# 加载模型
model = load_model('model/stm32_model.keras')# 加载验证数据集
df = pd.read_csv('simulated_data1.csv')
X_test = df['value'].values.reshape(-1, 1, 1)
y_test = df['label'].values# 进行推理
predictions = model.predict(X_test)
predicted_labels = (predictions > 0.5).astype(int)# 输出详细结果
for i, value in enumerate(df['value']):print(f"输入数据: {value:.2f}, 预测结果: {predicted_labels[i][0]}, 实际标签: {y_test[i]}")# 计算准确率
accuracy = np.mean(predicted_labels.squeeze() == y_test)
print(f"模型准确率: {accuracy * 100:.2f}%")# 可视化预测结果和真实标签的对比
plt.figure(figsize=(12, 6))
plt.plot(y_test, label='真实标签', marker='o')
plt.plot(predicted_labels.squeeze(), label='预测结果', marker='x')
plt.title('真实标签 vs 预测结果')
plt.xlabel('样本索引')
plt.ylabel('标签')
plt.legend()
plt.show()

我们可以看到推理后的结果，这根本就难不倒它嘛

六、加载模型

        既然前面已经把模型训练了出来，接下来就可以把模型部署到单片机上了。下面先介绍一些分析模型时的问题

遇到这个提示后

• 在注册表编辑器中，找到路径 HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\FileSystem。

• 修改或添加 LongPathsEnabled 值：

  • 在 FileSystem 文件夹中查找名为 LongPathsEnabled 的DWORD (32-bit) 值。
  • 如果存在，双击它并将其值设置为 1。
  • 如果不存在，右键点击 FileSystem 文件夹，选择 新建 -> DWORD (32-bit) 值，命名为 LongPathsEnabled，然后将其值设置为 1。
• 然后重启

        发生下面这个问题，比较奇葩，虽然提示说我们引入了batch_shape，但实际上我们没有显式引用。但只要把模型转为TFLite格式，同时不能直接使用GRU等高级层。

即便……你使用Select TF Ops，虽然可以转为TFLite模型，但是Cube的AI插件不能转换

# 模型保存
save_model(model, 'model/stm32_model.keras')
# 将 .keras 模型转换为 .tflite 格式
converter = tf.lite.TFLiteConverter.from_keras_model(model)
# 使用 Select TF Ops
converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS,  # 支持 TFLite 内置操作tf.lite.OpsSet.SELECT_TF_OPS     # 支持 TensorFlow 原生操作
]# 禁用实验性降低张量列表操作
converter._experimental_lower_tensor_list_ops = False
tflite_model = converter.convert()

每次加载模型都要重新分析一遍 

1，生成C代码 

①添加AI插件

        这一步有太多博客介绍了，我就说一点，把下面那个Device也勾选上，选择最后一个应用模板即可。官方文档里也很详细

②添加模型

③分析模型

        点击分析即可，分析成功后应如下

        我们可以看到最后一句，由于前面训练模型时也是这样，输入和输出只有一个，这里输入和输出也是一个4字节（实际为float32）

        如果你想要知道模型的详细情况，可以选择这个选项，当然这都是后面了，可以自己尝试

④生成的文件

生成的模型代码就是这个文件夹了

以及Middlewares下面的这个AI库

2，移植库

        如果你移植很熟练的话，这一步也没什么难度。不过要说明的是，我的工程是cmake工程，移动文件后，只需要修改CMakelists就行了。如果是Keil或者IAR的话，需要手动图形化添加。

        不管是哪种，目的都一样，先把官方提供的AI库（是整个AI目录而不仅仅是Lib目录）添加到工程里，就是下面这个静态库.a

        在CMakelists里就是这样，前面是什么不重要，重要的是这个库前面要加上“:”，为什么呢？我从CubeMX生成工程的CMakelists里扒出来的就是这样（疑惑的话可以多问问通义等）

target_link_libraries(libai INTERFACE :NetworkRuntime910_CM4_GCC.a)
target_link_libraries(libai PRIVATE libdrivers)

        移植后，这个库的头文件也要包含进来，ST/AI/Inc

        然后是这个X-CUBE-AI，具体过程我不描述了，移植需要多尝试、去练，讲求的是经验

        总之，就两个东西，一个是官方的库，另一个是资源文件

3，使用

        前面选择软件包时，由于勾选了应用模板，所以会给我们生成。这些文件中，我们只要考虑这两个文件即可

        从这个头文件里可以看到，它提供了两个接口，一个是初始化，另一个是AI处理。

        到资源文件中，我们可以看到这两个函数是空的，我们先补充初始化函数，直接这样添加就行了，不用管什么错误判断，因为实际上这个ai_boostrap接口就已经做好了

void MX_X_CUBE_AI_Init(void)
{ai_boostrap(data_activations0);
}

        至于函数处理，我们可以不用void MX_X_CUBE_AI_Process(void);

 我们自己编写一个简单的接口，输入数据，然后返回数据。为什么前面要加上float强制转换呢？因为这个指针类型其实就是void*

float process_data_float(float input)
{*(float *)data_ins[0]=input;ai_run();return *(float *)data_outs[0];
}

        从这个函数可以清晰地看出，把接收的数据存放进data_ins[0]指向的缓冲区，然后调用ai_run进行AI推理，之后返回data_outs[0]得到推理的结果。无论是data_ins[0]还是data_outs[0]其实都是指针，所以前面要用“*”把指针指向的缓冲区的值取出来或者修改。

        接着，我们在某个按键处理中调用这个函数，输入的是从0累加到150的数据供它验证

            input = 0;for (int i = 0; i < 500; ++i){result = process_data_float(input);printf("index:%f result:%f\r\n", input, result);input += 0.3;}

        按下按键后，串口打印的结果也符合推理结果，小于24的为1，大于24的为0。在24附近出现波动的原因也很简单，因为我提供的数据集里并没有出现浮点数，全是0-100的整数，并且模型训练轮次和数据量都比较小。

Tips：

        这三行代码我想了好久才想出来，前面定义data_ins和data_outs时不是有个int8_t，这个东西把我误导了许久，问通义，它说什么标准化、偏移量、量化之类的，总之告诉我输入数据和输出数据就是一个字节(int8_t)。后来我使用CubeMX另几个选项生成模板，并查看官方手册

        最终才确定转换的模型输入数据和输出数据确实是float32而不是量化后的int8_t，然后大胆尝试，强制把ai_input[0].data（也就是data_ins[0]）转换为float32，才得到正确的结果

七、跨越

        AI模型转为C代码可以不使用CubeMX的这个插件，但那样占用可能会很高，对于STM32平台，无论是操作的便捷性还是针对STM32的性能优化，都是使用官方的比较合适。如果是其他单片机，那么直接使用由TensorFlow Lite训练的模型转换的C代码，占用也不会很高，因为它专门用于嵌入式平台。

        至于神经网络、CNN、LVTM、图像识别什么的，从0.9到∞，需要靠自己主动学习了。