(相关资料图)

据路透社报道,当地时间周四,OpenAI 宣布将投资一家致力于防止不法分子利用人工智能制造生物武器的初创公司 Red Queen Bio。

OpenAI 是 Red Queen Bio 公司 1500 万美元(现汇率约合 1.07 亿元人民币)种子轮融资的主要投资者。Red Queen Bio 联合创始人 Hannu Rajaniemi 表示,该公司致力于确保 AI 行业的防护措施能够与那些试图利用 AI 模型危害人类的行为保持同步。

此次投资是 OpenAI 更广泛投资于初创公司、以应对 AI 风险的努力的一部分。上个月,OpenAI 还支持了总部位于纽约的生物安全软件初创公司 Valthos。OpenAI 首席战略官 Jason Kwon 表示,OpenAI 将考虑投资其他关注类似问题的初创公司。

Kwon 在接受采访时表示:“我们希望增强整个生态系统的韧性,一种最有效的风险缓解方式,就是推动更多技术的发展。”

研究人员和安全倡导者表示,人工智能技术很可能加速药物开发或设计新疫苗的进程。但与此同时,这些技术也可能使不法分子更容易开发新的生物武器。

Red Queen Bio 是从 Helix Nano 公司衍生出来的,Helix Nano 是一家在临床阶段的 mRNA 治疗公司,近年来在药物设计中越来越多地使用人工智能。Kwon 提到,Helix Nano 还与 OpenAI 合作开发了用于评估 AI 带来的生物风险的测试工具。

Red Queen Bio 将依托 AI 模型以及传统的实验室实验,致力于发现潜在的风险并开发相应的防御机制。该公司的名字灵感来源于刘易斯・卡罗尔的《镜中奇遇记》一书中的一幕。

Rajaniemi 表示:“生物技术的发展显然比我们原先预期的更快。我们意识到需要开始着手开发防御方案。”

推荐内容