多模态使用:发图、发文件与语音输入的正确姿势
不是所有模型都「看得见」。多模态能力是模型侧的属性,框架负责把聊天里的图片、文件、语音递给模型,能不能用取决于你接的模型。
能力拆解
- 视觉理解:发图片让模型描述、分析、提取信息——前提是对话模型支持视觉输入(各家旗舰模型大多支持,入门小模型未必)
- 文件输入:发送文档类附件,模型阅读后回答相关问题
- 语音输入:发语音经 STT 转文字进入对话,见语音能力
- 图片生成:部分服务商提供绘图能力,通常走插件或工具调用形式接入
在哪能用
两条通道都支持多模态输入:
- 消息平台:QQ、TG 等平台里直接发图/发文件/发语音给机器人
- 内置 ChatUI:上传附件有预览,并根据文件签名辅助识别文件类型,调试多模态行为最方便
模型怎么选
视觉理解的模型选择就看一件事:服务商是否标注该模型支持图像输入。混合用量场景(文字闲聊 + 偶尔看图)的常见做法是接两个模型档位:便宜的跑纯文本,视觉强的按需切换,配合 [Provider 会话隔离]在 ChatUI 里单独给某个会话选视觉模型。
实际使用注意
- 图片质量影响理解效果:截图清晰、文字可辨,模型输出才靠谱
- 大文件不是无限大:过大的附件可能被平台侧或模型侧的上限拦下,报错时先看日志确认是哪一侧拒绝
- 文件类型识别是辅助性的:格式特殊的文件(老版本办公文档、加密文件)可能解析失败,转通用格式再发
- 隐私意识:发到对话里的图片和文件会进入模型服务商的处理流程,敏感内容先脱敏,本地化需求走 Ollama 本地模型
和扩展能力的关系
多模态是「对话里发什么」的问题,而 Agent 沙盒是「模型能不能动手处理」的问题——发一张数据图表给模型只是看图,让它在沙盒里跑代码分析数据文件才是干活,两者叠加才是完整的数据分析工作流。