大模型推理可视化

Vanilla

看见大语言模型思考的每一步。Vanilla 实时可视化推理全过程——Token 概率、注意力模式、层激活、残差流、参数空间——四种模式覆盖从深度研究到儿童友好动画。v1.0.4:VLM 图片输入、模型发现面板、Metal 加速热力图、动画过渡、错误恢复。

专家模式——Token 概率分析、注意力洞察和逐层分解

专家模式——Token 概率分析、注意力洞察和逐层分解

功能特点

四种模式,一个愿景。

从深度研究到孩子与 AI 的初次相遇——每个视角都经过精心设计。

01

专家模式

完整分析面板:Top-K 概率条形图、注意力热力图、Logit Lens 逐层预测、残差流幅度、GDN 趋势和参数空间统计。

专家模式
02

引导模式

分步教学引导:从分词到注意力到最终预测。学习 Transformer 工作原理的最佳方式。

引导模式
03

儿童模式

AI 小精灵角色通过彩色 Token 卡片和趣味互动,引导小朋友探索推理旅程。

儿童模式
04

暂停与单步

真暂停机制——在任意 Token 冻结推理,逐步前进,回放检查任意层的状态。

暂停与单步
05

回顾模式

序列摘要与关键发现:置信度分布、最关键层、生成统计一目了然。

回顾模式
06

原生性能

基于 Swift + Metal 构建,Apple Silicon 原生运行。Metal 加速注意力热力图、实时粒子渲染、流畅 60fps 动画过渡。

原生性能
07

模型发现

内置推荐模型面板,自动扫描本地模型。新用户打开即看到推荐——选一个模型,30 秒内看到可视化。

模型发现
08

错误恢复

可操作的错误状态——重试、换模型、超时保护。出错时无需重启应用。

错误恢复

为什么选择 Vanilla

01

理解模型在每一层的行为

02

可视化调试和验证模型输出

03

向任何人教授 AI 概念——包括小孩

04

100% 本地运行,无云端依赖

05

交互式探索,而非静态图表

06

为 Apple Silicon 构建,Metal GPU 加速

Vanilla 的一切处理都在你的设备上完成。零数据收集。无需注册。