JOTO
Contact us
← AI 智库
模型与技术专题

大语言模型

整理大语言模型相关的技术判断、实施方法与企业级实践,重点关注可部署性、安全性和业务价值。

相关文章

7068 篇高质量内容
大语言模型
大语言模型
大语言模型

别再给每个Agent塞一个Sandbox:下一代Agent架构正在重写

文章指出当前主流Agent架构将整个Agent封装在Sandbox中导致扩展僵化,提出应解耦Agent Runtime与执行环境:Runtime作为长期稳定服务仅负责状态计算与动作推导,Sandbox降级为按需调用的临时计算资源。系统通过Gateway、Bridge、Queue、PostgreSQL和Sandbox Service等分层组件实现职责分离,强调状态持久化优先、声明式操作、幂等性及严格执行顺序。

大语言模型
大语言模型
大语言模型

没人能做出国产版Muse

文章指出,尽管技术上可行,中国短期内难以推出真正可用的国产版Muse或GrokBot,主因在于国内互联网生态严重割裂、跨App自动化受阻、插件生态薄弱,以及巨头对入口控制权的高度敏感。豆包手机助手等实践已验证微信等核心App拒绝AI自动化操作。

AI 硬件
AI 硬件
AI 硬件

阶跃能把中国的AI手机做成吗?

10月13日,阶跃发布首款大模型原生智能体手机STEPX Neo,聚焦“手机硬件传感器+AI记忆”,强调个人全局记忆与意图理解能力,并调用大厂AI应用。文章分析其与WorkBuddy、携程等合作的逻辑,指出当前AI手机面临市场教育不足、AI应用中间层缺失、用户交互门槛高等挑战,强调AI Harness OS构建与场景化落地的关键性。

开源模型
开源模型
开源模型

能被打断、会调工具,NVIDIA开源11B语音助手Agent

NVIDIA开源NemotronLabs VoiceChat 11B全双工语音Agent,支持实时插话中断、流式工具调用与等待话术生成。该模型采用端到端统一架构,非ASR-LLM-TTS串联流水线,在VoiceBench和Full-Duplex-Bench中均位列开源模型第二。官方明确列出多项已知限制,包括不支持backchannel识别、工具参数准确率仅44.2%、需80GB GPU显存等。

大语言模型
大语言模型
大语言模型

AgentHop:让你的 AI 和别人的 AI,直接开聊!

AgentHop 是一个轻量级开源工具,支持不同厂商、不同机器上的 AI Agent 在无公网 IP 和端口转发条件下,通过配对码建立端到端加密通信隧道。它以单文件分发、无需 Node.js、兼容 MCP 协议为特点,提供房间创建、消息收发、文件传输、联系人管理等八类工具,并采用 TOFU 信任模型与分离式密钥设计保障基础安全。

大语言模型
大语言模型
大语言模型

别急着喊“软件护城河没了”:REA 真正改变的是逆向工程的接口

REA 并非一键还原源码的工具,而是将分散的逆向分析流程封装为 Agent 可调用、可推进、可留证的工程接口。它通过 Evidence 结构化记录观察、推断与未知项,降低调查协调成本,但不降低专业门槛。其价值在于让软件分析更接近可编排、可复核的工程过程,而非消除护城河。

大语言模型
大语言模型
大语言模型

ChatGPT 终于进了 Word:从改合同到查公式,它能帮你做什么

OpenAI 正式推出 ChatGPT for Word、Excel 和 PowerPoint 加载项,所有用户(含免费版)均可安装使用。该功能支持在 Office 文档内直接调用 ChatGPT,完成会议纪要整理、局部文字改写、合同修订与批注分析、Excel 数据清洗与公式纠错、PPT 标题精简与视觉检查等任务,结果可直接写回原文件并保留格式、修订痕迹和图表布局。

大语言模型
大语言模型
大语言模型

OpenAI 的新界面,41 小时就被人复刻完了

OpenAI 于10月7日发布 Intelligent UI(DIL),一种让模型生成可执行前端程序的交互范式;41小时内,开发者完成协议级逆向、开源复刻并上架DSH插件。该方案采用沙箱执行模型生成的代码,实现本地实时响应,与传统‘模型写组件清单’方案有本质差异。复刻虽快,但组件能力层(如机票卡、医疗计算器等283个产品级组件)依赖私有资产,无法同步复制。

开源模型
开源模型
开源模型

0.6B起!Jev对手模型来了,开源多模态,登上全球测评榜一

vLLM Semantic Router开源Decision 3.0系列决策模型,参数规模覆盖0.6B至27B,支持文本、图片与视频输入,不生成长文本,仅输出结构化判断结果及置信度。在Jev Decision Index榜单中,旗舰模型d3文本与视觉分均位列第一,超越Jev与微软Decision-1。模型权重已开源,支持本地部署与边缘推理。

AI 硬件
AI 硬件
AI 硬件

两台DGX Spark搭出一个DeepSeek:从开箱到跑通,一篇讲透

本文详细记录使用两台英伟达DGX Spark本地部署DeepSeek V4 Flash模型的完整流程,涵盖硬件选型依据、双机物理互联与网络配置、SSH免密集群搭建、vLLM推理引擎部署及性能调优要点,并列出QSFP接口Down、NCCL带宽不足、OOM和HuggingFace下载卡顿等常见问题的精准解决方案。

开源模型
开源模型
开源模型

Qwen4 27B官宣暗示:阿里大模型全都要,单卡本地部署迎王炸

通义千问官方推特以水豚公仔抛出“big or small”之问,随后回应“alright guys, let's do both!”,并泄露出Qwen4 27B官方视觉物料。27B模型在4-bit量化下显存占用约15~17GB,适配单张RTX 3090/4090/5090等24G–32G消费级显卡,成为本地部署的‘黄金甜点位’,兼顾推理性能与私有数据安全。

大语言模型
大语言模型
大语言模型

重磅!Codex省钱教程来了

Codex 的模型调用链包含主模型、子 Agent、Review 模型和 Compact 四个环节,其中前三者可分别配置不同模型。主模型需强推理能力负责规划,Review 和子 Agent 可选用成本更低的模型执行明确任务。教程详解如何通过修改 config.toml 和 worker.toml 实现模型分工,支持 OpenAI 及火山方舟 Agent Plan 等第三方 Provider。

开源模型
开源模型
开源模型

比Jev更爆火!逆向灭霸 REA 一天登顶GitHub

GitHub项目REA(Reverse Engineer Anything)三天内获近8万颗星,npm下载量达4.4万次,超越Jev同期数据。它通过MCP协议连接大模型与逆向工具,实现对商业软件二进制文件的自动反编译与开源重构,已尝试逆向Office等大型软件,引发关于代码混淆、知识产权法律效力及软件工程范式变革的深度讨论。

大语言模型
大语言模型
大语言模型

OpenAI悄悄上架了一个生命科学新模型,想当药企的工具供应商

OpenAI 在 API 价格页悄然上线未正式发布的生命科学模型 gpt-rosalind-discovery,与已公开的 gpt-rosalind-research 同价,但模型文档页返回 404。这是通用大模型厂商中首个为生命科学设立独立品牌、准入审核与迭代型号的项目,定位为纯工具供应商,不参与药物管线开发,依赖客户反馈驱动优化。

大语言模型
大语言模型
大语言模型

灵光开始内测 Personal Agent

蚂蚁集团灵光 APP 推出 Personal Agent 小范围内测版本,支持连接米家、钉钉等生态,可执行家庭中枢任务(如查门锁、控打印机)、自动化场景(如空调联动、电商比价、机票监控)。用户通过输入指令安装 API,在云端 Python 环境中调用设备能力,目前已实现 A4 文档生成与激光打印全流程。

大语言模型
大语言模型
大语言模型

请来Claude老祖,谷歌能借Agent翻身吗?

谷歌发布Gemini Agent,首次支持在Gemini与Anthropic Claude间动态调度模型以完成任务;其依托Workspace生态实现跨应用协同与Coworker Agent角色化部署。文章指出,此举反映巨头在Agent时代转向能力整合而非模型独占,并分析Claude正通过SDK、Mods和开发者补贴构建Agent公共底座。

大语言模型
大语言模型
大语言模型

Grok Bot有邮箱了,我让它注册了三个AI

Grok Bot 官方宣布为其智能体配备独立邮箱,支持注册服务、收发验证码等操作。作者实测用该邮箱成功注册 Perplexity,但 Claude 因邮件仅含按钮无法提取链接而失败,ChatGPT 虽注册成功却在半小时内被 OpenAI 停用。文章分析了当前邮箱能力的适用边界与技术限制。

大语言模型
大语言模型
大语言模型

深度体验 Dots 11天,我终于懂了「Personal Agent」

作者深度体验 ChatGPT Dots 11 天,验证其作为「Personal Agent」的三大核心特性:Personalized(个性化认知)、Proactive(主动性提醒)、Persistent(24 小时云端持续运行)。通过邮箱授权、机票监控、旅行规划、战略方案生成及云端开发等真实用例,展现其主动理解用户、跨平台任务执行与长期记忆能力,同时指出其在国内水土不服、上下文管理粗放、Intelligent UI 缺失等局限。

大语言模型
大语言模型
大语言模型

OpenAI 一口气四连更,我怎么好像看到了 Jev 的影子?

OpenAI 于10月6日推出 Decisions API 公测,支持语音交互场景下的动作选择(如刷新、后退、不操作),基于 GPT-6 Luna 模型,输入定价 0.10 美元/百万 Token,输出免费。该接口专精于轻量级决策任务,不替代完整 Agent,但可显著加速 Agent 中高频选择环节。同期更新还包括 Auto-review 权限优化、API 套餐层级简化及 Meetings 插件测试。

多模态模型
多模态模型
多模态模型

技术解读|会议 ASR 的下一站:让大模型自己学会听懂会议

本文探讨会议语音识别(ASR)的技术演进方向,指出传统模块化系统在真实会议场景中面临声学复杂性、多人重叠说话、专业术语混杂等挑战;提出ASR大模型应将声学鲁棒性、多说话人结构理解、长上下文一致性与输出克制等能力内生化,直接从原始音频生成带说话人归属与时间戳的结构化转写。