Simon Willison发布llm-typesafe 0.1a0,为LLM接入TypeSafe的Jev模型
该插件让LLM命令行工具支持Jev模型,可直接提问“是/否”的noul问题、选择题和打分题,作者称TypeSafe的等候名单推进较快。
AI解读:这条新闻的核心是一个新插件,不是新模型本身。Simon Willison为LLM工具写了llm-typesafe 0.1a0,让命令行用户可以调用TypeSafe AI的Jev模型。
Jev的用法和普通聊天模型不太一样:它主要回答结构化的判断题、选择题和打分题。比如问“这条消息是否明确要求退款”,输出是 {"type": "noul", "noul": 0.99},0.99 是模型对该判断的置信度。
对需要把模型塞进自动化流程的人有用:用llm命令加 -s传问题、-o answer_type选choice或score、-o criteria给分类或评分标准,输出便于程序解析。安装只需llm install llm-typesafe,再配置API key。
限制也很明确:要用上它,得先拿到TypeSafe的API key,目前需要通过等候名单申请。来源是项目发布说明,没有给出模型准确率、速度或价格数据,所以效果还需实际使用来验证。
Simon Willison发布了LLM插件llm-typesafe 0.1a0,用来在LLM命令行工具中支持TypeSafe AI的新模型Jev。
安装命令为llm install llm-typesafe;随后设置API key:llm keys set typesafe,再把key粘贴进去。作者提到获取key的等候名单“推进得相当快”。
插件提供三种提问形式。第一种是“是/否”的noul问题,例如执行llm -m jev 'Please refund my last payment.' -s 'Does this message explicitly request a refund?',输出为 {"type": "noul", "noul": 0.99}。
第二种是选择题:把消息通过管道传给llm -m jev,用 -s提问“这条消息应由哪个团队处理?如果计费和技术问题同时出现,选计费”,用 -o answer_type choice指定类型,再用 -o criteria给出billing、technical、other三类及各自含义。
第三种是打分题:用 -o answer_type score指定类型,-o criteria传入评分档位数组。作者给出的例子是让Jev评估一份报告中问题的可复现程度,档位从“没有复现说明”到“有完整步骤和预期、实际结果”。
作者在说明中指向README获取更多细节。