Artificial Epistemics今日宣布,已准备开始对外授权“可持续性代码”(Sustainability Code,简称“Susty Code”)。公司称,该协议是一套基于知识论的规则体系,用于对人工智能生成内容及其内部知识的真实性与道德性进行质量控制,并试图在知识处理的行动前阶段降低由AI驱动的错误信息和不道德内容风险。
Artificial Epistemics表示,与当前多数人工智能系统不同,“Susty Code”依托科学、逻辑、价值理论与知识论中长期存在的知识生产原则,对事实主张与价值主张进行严格测试与评估,且相关流程发生在内容传播或被使用之前。公司称,其计划与领先的人工智能生产商合作,推动将该代码整合至现有及未来的人工智能系统,以尽可能减少AI生成错误信息或判断失误带来的风险与危害,尤其是在相关输出被用作人类行动、人机共同行动或由人工智能单独采取行动的依据时。

公司联合创始人Joseph M. Firestone博士与Mark W. McElroy博士在联合声明中表示,“Susty Code”为人工智能增加了一层被称为“知识处理”的智能功能。他们称,这一功能是人类及其他生命系统的自然能力,但目前多数人工智能系统仍缺失;该协议通过引入复杂的知识论规则,超越模式匹配、概率方法与简单强化学习,使人工智能生成内容及其内部知识的真实性与道德性能够在交流或行动之前接受质量控制。两位联合创始人还表示,目前没有其他人工智能信息处理方法能以同样方式实现自我调节,而安全、有效且可靠的人工智能需要具备这一能力。
发表评论
登录后才可评论。
去登录
