跳到正文
游戏资讯 · 硬件动态 · 玩家故事联系我们 ↗
GGAMen游戏资讯发现游戏里的新鲜事。探索游戏专题 ↗
    主页 > 新闻 >

越狱PS5可原生运行AI模型，27B模型达每秒20 token

GGAMen编辑部 2
越狱PS5可原生运行AI模型，27B模型达每秒20 token

Reddit用户 u/AdIllustrious7246 近日发布了他对 PS5LM 的分支版本。PS5LM 是 llama.cpp 在 PS5 上的移植项目，新分支让 PS5LM 能够在 PS5 上原生运行，并利用 GPU 运行更大的 AI 模型，例如 Qwen3.8-27B，速度可达每秒 20 个 token。

此前，GitHub 用户 cobanov 曾在 14 天前于 Reddit 发布非官方 llama.cpp 移植版，让越狱 PS5 可以本地、离线运行 AI 聊天模型。但据 u/AdIllustrious7246 介绍，cobanov 的版本以 payload 形式在 CPU 上运行，内存被限制在 6 GiB 左右，再多就会导致主屏幕冻结。cobanov 当时的目标是先让 llama.cpp 跑起来，之后再利用 GPU 运行更大模型，而 u/AdIllustrious7246 的分支似乎抢先实现了这一目标。

新分支的关键在于 PS5_Vulkan，这是 RADV 图形驱动的移植版，允许向 PS5 GPU 发送指令。PS5 的 GPU 虽基于 AMD 架构，但通常被锁定，无法像 PC GPU 那样访问；PS5_Vulkan 等自制项目打开了 GPU 的能力。

越狱PS5可原生运行AI模型，27B模型达每秒20 token

据 u/AdIllustrious7246 称，他成功在 PS5 上运行了 27B 参数模型，速度达到每秒 20 个 token；较小模型如 Gemma 4 E4B 和 Llama 3.2 3B 则分别达到每秒 61 个和 124 个 token。此前，6.8 GiB 的大型语言模型会因 CPU 瓶颈导致系统冻结甚至崩溃。GPU 运行还带来更快的 token 输出，原生运行则允许使用更多内存，最高可达 11.4 GiB。开发者还为它加入了仪表板，可显示实时 token 生成速度、GPU 和 CPU 使用率、功耗、温度，以及内存如何在模型和 KV 缓存之间分配。该版本还支持 llama.cpp 的 Web UI，用户可以从其他本地设备通过浏览器与 LLM 聊天。

一些评论者已联想到加密货币挖矿潮引发的显卡危机。文章认为这种情况不太可能重演，因为大型 AI 数据中心的需求已经让 GPU 和内存持续处于紧张状态，而 PS5 的 GPU 并非最快，内存也并非最多。

越狱PS5可原生运行AI模型，27B模型达每秒20 token

本文仅报道技术动态，不支持、不鼓励任何形式的盗版或破解行为。请玩家通过官方渠道购买正版游戏。

更多游戏资讯与福利，尽在 GGAMen 福利中心，每日限免礼包 · 新游预约一站直达。

来源：原始报道

相关标签：越狱PS5可原生运行AI模型 · 27B模型达每秒20 · token

热门推荐

最新内容

0