智见

标签： 大模型

  • – 作者发现使用Claude Code处理大型代码库时遇到性能问题：agent无法直接找到内容时会回退到grep、读取完整文件或启动子代理，这消耗大量token且经常错过相关代码
    – 解决方案：结合静态Model2Vec嵌入（使用最新的静态模型potion-code-16M）与BM25算法，通过RRF融合并重新排序
    – 性能优势：在1250个查询/文档对的基准测试中，比grep+read使用98%更少的token，达到99%的最优transformer设置检索质量，同时速度提高约200倍

  • – Semble是一个专为AI代码助手设计的代码搜索库，能返回智能体所需的精确代码片段
    – 相比传统的grep+read方法，使用约98%更少的token，显著降低延迟
    – 主要特点：快速索引（平均仓库约250ms）、准确率高（NDCG@10达到0.854）、令牌高效、零配置、可作为MCP服务器或命令行工具使用
    – 支持多种编程语言和代码库，运行在CPU上无需API密钥、GPU或外部服务

  • – 该模型不仅能生成3D CAD模型，还能生成完整的参数化CAD命令序列
    – 采用四个关键步骤：自回归Transformer编码器学习CAD命令序列的潜在表示、对比学习方法学习CAD命令序列和CAD图像的联合表示、潜在扩散模型根据CAD图像生成CAD命令序列的潜在表示、解码器将CAD潜在表示转换为参数化CAD命令序列
    – 主要优势是不仅生成3D实体，还生成整个CAD程序，为工程设计和制造提供精确且可修改的3D建模解决方案

  • [AI相关内容] 【展示】Statewright – 使AI代理可靠的视觉状态机…

    – [AI相关内容] 目前的智能问题解决非常脆弱。 我爱上了它，但它制造的问题和解决的问题一样多。 要让代理可靠工作需要大量参数或巨大的上下文窗口 以保持解决方案空间可行。大多数人用更大的模型暴力破解可靠性 和更长的提示词。 如果我让问题变小而不是让模型变大呢？ 我采用了一种不同的方法，使用更小的模型：130亿-200亿参数范围的模型 并将它们设置为解决真实的SWE-bench问题。 我使用形式化状态机约束了工具和解决…

    **原文链接**: https://github.com/statewright/statewright

    **原文链接**: https://github.com/statewright/statewright

  • [AI相关内容] 为AI时代重新构想鼠标指针…

    – [AI相关内容] 我对这个的第一印象是怀疑。 任何需要语音控制用于日常使用的东西都很难推广。 当你身边有人时这样做会打扰到周围所有人。 他们的大多数例子似乎都可以通过右键下拉菜单完成 所以他们真的不需要’重新发明鼠标指针’。 那么这个东西是否一直在与Google服务器通信以实现AI集成？ 如果不连接互联网就无法工作？隐私问题很明显; 现在Google想要一个AI监视你在计算机上的所有操作？ 使用LLM对用户有什么成…

    **原文链接**: https://deepmind.google/blog/ai-pointer/

    **原文链接**: https://deepmind.google/blog/ai-pointer/

  • [AI相关内容] 【开源项目】Needle：将Gemini工具调用蒸馏为2600万参数模型…

    – [AI相关内容] 大家好，我是Cactus的Henry。我们开源了Needle，这是一个2600万参数的函数调用（工具使用）模型。 在消费级设备上，它的预填充速度为每秒6000个token，解码速度为每秒1200个token。 我们一直对构建能在预算手机上运行的智能代理模型的努力感到沮丧, 因此我们进行了调查，得出了一个观察结果：智能体验建立在工具调用之上, 而庞大的模型对此来说过于复杂。工具调用本质上是检索和组装…

    **原文链接**: https://github.com/cactus-compute/needle

    **原文链接**: https://github.com/cactus-compute/needle

  • 我让AI构建了一个帮助我找出夜间被什么吵醒的工具

    作者利用AI工具开发了一个个人睡眠监测和分析系统，解决了夜间不明原因惊醒的问题。

    ### 项目背景：

    住在嘈杂城市中的人常常会遇到3点突然惊醒但不知道原因的困扰。没有数据支持的情况下，任何解决方案都只是猜测，成本很高且效果不确定。

    ### 技术实现：

    – **硬件配置**：
    – 两个廉价的USB麦克风（室内和室外各一个）
    – Raspberry Pi微计算机（仅在特定条件下监听）
    – Garmin*手表睡眠数据
    – 家庭实验室网络应用

    – **智能控制**：
    – 通过Home Assistant集成控制
    – 自动化规则：仅当人在家、在床上、接近睡眠时间时才启用监听
    – 其他时间完全禁用，确保隐私安全

    – **数据分析**：
    – 多轨时间轴显示（睡眠阶段、心率、传感器事件、噪音事件）
    – 可视化标记睡眠阶段转换和清醒时刻
    – 音频片段自动压缩存储

    ### AI的作用：

    AI降低了个人工具开发的门槛，使原本需要数月时间的复杂项目可以在周末完成。作者通过SSH连接到空白的Raspberry Pi安装，让AI直接测试设备功能。

    ### 实际应用效果：

    – 识别出常见噪音源：邻居关门声、餐具碰撞声、街道摩托车声等
    – 采取针对性措施：添加吸音板、改善门窗隔音
    – 显著改善睡眠质量，早上精神状态明显好转

    *注：作者对Garmin公司持负面看法，正在寻找替代产品。

    **原文链接**: https://martin.sh/i-let-ai-build-a-tool-to-help-me-figure-out-what-was-waking-me-up-at-night/

  • Claude平台现在通过AWS提供全面功能

    Anthropic宣布Claude Platform on AWS正式可用，为AWS客户提供全新的AI服务接入方式。

    ### 核心特性：

    – **完整平台功能**：通过AWS认证、计费和承诺兑现，客户可以访问完整的Claude Platform功能集。

    – **企业级集成**：
    – 通过AWS IAM进行身份验证
    – 通过CloudTrail进行审计日志记录
    – 通过单一AWS发票进行计费
    – 使用现有的AWS凭据和IAM策略

    – **高级功能**：
    – Claude托管代理（测试版）- 大规模构建和部署代理
    – 顾问策略（测试版）- 通过咨询顾问模型增强代理智能
    – 网络搜索和网络抓取工具 – 使用实时网络数据扩充知识
    – 代码执行 – 直接在API调用中运行Python代码
    – 文件API（测试版）- 跨对话上传和引用文档
    – 技能（测试版）- 教Claude最佳实践以获得一致结果
    – MCP连接器（测试版）- 无需编写客户端代码即可连接任何远程MCP服务器

    ### 适用场景：

    – **完整Claude体验**：适合希望获得完整Claude Platform体验的公司
    – **数据安全合规**：适合有严格区域数据驻留要求或需要将数据处理限制在AWS基础设施内的公司

    ### 当前模型支持：

    Claude Opus 4.7、Sonnet 4.6和Haiku 4.5现已可用，新的模型将在发布时同步推出。

    **原文链接**: https://claude.com/blog/claude-platform-on-aws

  • 如果AI能写代码，为什么还要用Python？

    近年来，随着AI编程能力的飞速提升，编程语言的选择正在发生根本性变化。

    ### 主要观点：

    – **AI改变了语言选择的标准**：过去选择Python是因为生态系统庞大、招聘池深厚、能快速做出演示。但现在情况变了，因为AI在困难语言上表现更好。

    – **系统语言对AI更容易**：Rust、Go等语言的强类型系统和快速编译循环给AI提供了最紧密的迭代周期。这些对人类来说很难的语言，对AI来说反而最容易。

    – **实际成果显著**：微软将TypeScript编译器重写为Go；Anthropic团队用Rust编写了一个生产级C编译器；Ladybird浏览器将其JavaScript引擎从C++移植到Rust。

    – **生态系统正在改变**：Python生态系统中越来越多的包实际上是Rust库的外壳。Astral公司开发的ruff、uv、ty都是Rust编写的，下载量达到数百万次。

    – **贡献模式转变**：从修补bug转向移植整个库。这使得维护现有库的动力减弱，因为可以直接fork并使用新语言重写。

    ### 未来展望：

    未来的编程语言选择标准将从”对人类最容易”转变为”对AI最容易”。人类的职责从”编写代码”转变为”设计系统和审查输出”。

    这个转变是永久性的，因为AI承担了困难的部分，使得人类可以专注于更有价值的架构设计和系统审查工作。

    **原文链接**: https://medium.com/@NMitchem/if-ai-writes-your-code-why-use-python-bf8c4ba1a055

  • 通用汽车大规模裁员IT员工：转向招聘更强的AI技能人才

    通用汽车(GM)已裁减超过10%的IT部门员工，约600名带薪员工，这是有意识的技能置换：清除不再适合的专家，为具有AI背景的人才腾出空间。

    此次裁员并非全是永久性岗位削减。GM仍在招聘IT部门的职位，但需要不同的技能。最需要的关键能力包括：

    – AI原生开发
    – 数据工程和分析
    – 基于云的工程
    – 代理和模型开发
    – 提示工程
    – 新的AI工作流程

    这反映了企业AI采用的实际模式——不仅仅是添加AI工具，而是从根本上重建workforce。具体招聘方向指向了大企业对agent开发、模型工程和AI原生工作流的需求趋势。

    除IT部门外，GM在过去18个月里还裁减了其他几个部门的员工，专注于高优先级项目，包括AI。

    **原文链接**: https://techcrunch.com/2026/05/11/gm-just-laid-off-hundreds-of-it-workers-to-hire-those-with-stronger-ai-skills/