首页 动态 > 科技 > 正文

Raspberry Pi 5 运行先进的开源 AI 模型

导读 Raspberry Pi已经问世几个月了,我们有机会仔细了解它的功能。现在,制造商和开发人员 Data Slayer 在他的最新视频中深入研究了如何使...

Raspberry Pi已经问世几个月了,我们有机会仔细了解它的功能。现在,制造商和开发人员 Data Slayer 在他的最新视频中深入研究了如何使用 Pi 5 来运行高级 AI 大语言模型 (LLM)。在其中,我们对 Pi 5 利用本地 AI 模型的能力有了令人印象深刻的了解。

Data Slayer 使用名为 Olama 的工具来管理和在 LLM 之间切换。这是通过命令行完成的,不需要任何互联网访问,因为所有内容都存储在 Pi 5 上。在视频中,Data Slayer 让我们仔细了解了几种不同模型在 Pi 5 上运行时可以执行的操作。

他演示的第一个法学硕士称为 LLaVa,旨在分析图片。为了进行测试,Data Slayer 拍了一张自拍照,并通过 Pi 对其进行解析,看看 LLaVa 会检测到什么。它正确识别了图片的主题,指出这是一个穿着连帽衫的男子在位于城市环境中某处的建筑物中。

下一个例子是一个名为 Llama 2 的模型,它处理一些有趣的基于文本的查询。他立即提示它输入辛辣蛋黄酱配方,然后用一些历史琐事对其进行测试。为了完成实验,他要求它生成一些基本的 Linux 命令。

这是一个非常巧妙的示例,展示了无需任何额外硬件即可使用 Raspberry Pi 5 进行的操作。也就是说,您绝对可以通过添加存储或外部 TPU 来提高性能来增强体验。在 Data Slayer 制作的视频中,他使用的是 8GB Raspberry Pi 5 和 256GB microSD 卡。

如果您想更仔细地了解这个Raspberry Pi 项目的实际情况,或者只是想了解更多有关其工作原理的信息,请查看 Data Slayer 分享到YouTube的原始视频,并一定要关注他的未来创作。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。