Trustwise获400万美元融资，专注生成式AI安全

今日应用

豆包

豆包是你的AI 聊天智能对话问答助手，写作文案翻译情感陪伴编程全能工具。豆包为你答疑解惑，提供灵感，辅助创作，也可以和你畅聊任何你感兴趣的话题。

今日话题

Trustwise获400万美元融资，专注生成式AI安全

 

重点标签 AIGC社区、Trustwise、生成式AI、Optimize:ai、AI安全

文章摘要

Trustwise公司专注于AIGC领域，致力于大语言模型（LLM）的发展和应用落地，同时关注AI安全和开发者生态。该公司宣布成功获得400万美元的种子轮融资，由日立风投、Firestreak Ventures和Grit Ventures等机构参与。此外，Trustwise推出了Optimize:ai，这是首款专注于生成式AI安全的产品，旨在为开发者提供API，帮助他们消除风险，降低在高风险企业环境中部署大型模型的成本，并减少幻觉问题。

生成式AI，如ChatGPT，常常产生不准确的结果，可能违反政策和法规，导致成本高昂和能源效率低下，给公司带来法律风险。GitHub的“幻觉排行榜”显示，GPT-4、Llama、Gemini和Claude等流行大型模型在总结文本时的幻觉发生率在3%到8.5%之间。企业对AI技术的潜力抱有高期望，但对成本问题保持谨慎。Lucidworks的研究表明，AI成本问题在过去一年中激增了14倍。

Trustwise通过API、数据集以及AI安全和对齐控制，对生成式AI工作负载进行严格的红队测试和优化，保护企业免受潜在的AI失败和过高成本的影响。Optimize:ai符合主要的AI标准和法规，包括欧盟AI法案、NIST AI RMF 1.0、负责AI研究所RAISE安全和对齐基准以及SCI ISO软件碳强度标准。

Trustwise的CEO兼创始人Manoj Saxena表示，他们理解企业在使用生成式AI时面临的挑战，包括安全风险、高成本和环境影响。与传统的谷歌搜索相比，一次ChatGPT查询的成本大约是前者的36倍，使用的算力是前者的1000倍，同时还存在幻觉和数据泄漏等安全问题。Optimize:ai的推出可以帮助企业以安全、节省成本的方式来使用生成式AI和大型模型。

日立风投的合伙人Gayathri Radhakrishnan表示，企业领导者在生成式AI战略中面临双重挑战：虽然生成式AI能带来下一代创新生产力，但同时也带来了显著的安全风险、成本负担和环境影响。Trustwise的经验丰富且世界级的团队将提供急需的生成式AI优化能力，使开发者能够创建安全、高效且高性能的AI。

文章来源

原文地址: 点我阅读全文
原文作者: AIGC开放社区