大模型安全及安全人工智能科技公司「HydroX AI」完成400万美元天使轮融资｜绿洲领投

HydroX AI 近日完成 400 万美元天使轮融资，由绿洲资本领投，奇绩创坛，Atom Capital 跟投。 本轮融资资金主要用于产品研发，市场拓展以及扩大团队规模等。 绿洲资本投资负责人表示： “人工智能和社会的广泛结合才刚刚开始，这里面的安全问题不仅仅涉及到隐私和渗透，更涉及到社会伦理、知识结构和意识影响。未来安全不再是一个防护措施，更是与人工智能发展相辅相成的重要基础设施，我们非常开心和全球资深的安全隐私技术团队一起探索人工智能下的社会安全和道德责任。” HydroX AI 创始人兼 CEO ZL 表示：“在过去的一年里，绿洲无疑是我们所接触到的最专业和最具前瞻性的机构之一。在大模型这股巨大浪潮中，我们满怀期待，希望与绿洲携手努力，应对这个充满机遇和挑战的时代。”

HydroX AI 成立于 2023 年 7 月，位于美国加州，是一家专注于 AI Safety（大模型安全）和 Safe AI（安全人工智能）的科技企业，致力于为大模型公司、使用大模型的企业以及其他 B2B 行业的客户提供全方位、多层次的 AI 安全解决方案。 在大模型技术快速发展的今天，大模型安全是无法避开的重要议题，其中 AI Safety 聚焦大模型本身，细分为大模型的对齐（Alignment）、可解释性（Interpreferability）、鲁棒性（Robustness）等问题。简单来说，要对大模型进行严格的“质检”，确保大模型是一个安全的大模型，不会产生严重后果，甚至危害人类社会。 HydroX AI 创始人兼 CEO ZL 表示，相比于传统的网络安全领域，AI Safety 是一个相对新兴的领域，有更多的可能性和商业机会。ZL 认为，大模型的本质是一个黑盒，针对这样的黑盒会出现很多新的攻击方式，例如 prompt injection（提示词注入）。许多 AI 开源项目已经发现含有被攻击的代码，以及公开的训练数据集，都可能导致大模型安全问题。这些都需要新型的针对性的解决方案。 AI Safety 主要依赖于大模型训练的过程，目前市面上已经出现一些相关的技术。主流的大模型公司（如OpenAI）在发布大模型时会推出相应的安全技术；英伟达研发了专门的防护技术，为大模型的输出内容“把关”；一些高校则设计了针对大模型的安全评测框架，以评估大模型的安全性。 HydroX AI 的侧重点主要放在大模型的风控与数据保护。ZL 表示，这是目前 AI Safety 最迫切且需求最广的两部分。如果大模型被恶意注入代码或脚本，可能导致用户使用大模型之后，被窃取了账户密码、银行卡号等个人隐私信息。 HydroX AI 将为客户提供一站式解决方案。具体来说，HydroX AI 会开发一个独立平台，从发现问题到解决问题，再到持续监控，形成端到端的闭环。安全领域是长期的动态攻防，防御再强，也会遭到更强的攻击。因此，HydroX AI 正在持续丰富检测库的能力，让问题检测更全面、准确，提升该平台发现问题的能力。 目前，HydroX AI 已经在官网上线了一款免费产品，主要供新用户体验，提高用户对这一新兴领域的认知和感受。ZL 透露，今年年底公司将推出第一代一站式平台。 商业模式上，HydroX AI 前期将为客户进行定制化开发，打造一些标杆案例，随后逐渐过渡到 SaaS 模式，收取订阅费等。考虑到公司现有人员和资源，HydroX AI 现阶段主要瞄准国内外做基础大模型的 AI 公司，以及医疗、社交领域的模型公司，为这类客户打造一站式解决方案。 创始人 ZL 先后就职于字节跳动、Meta、Linkedin 等公司，在网络安全领域具备十多年经验。团队核心成员共 6 人，均来自 Google、Meta、Linkedin 等公司。 文章来源：36氪智能涌现，作者林炜鑫 参赞生命力

你觉得什么是生命力？

生命力不仅是驱动力，更是守护数字世界的决心。

—— ZL，HydroX AI 创始人& CEO*