区块链技术如何揭示人工智能黑匣子?Ariana Spring和Andrew Stanco揭秘!

生成式人工智能的魔力部分在于大多数人并不知道它是如何运作的。可以说,甚至连最聪明的科学家们也不能完全确定它的运作方式,ChatGPT的内部机制甚至会让他们感到困惑。这是一个黑匣子。我们并不完全确定它是如何训练的,哪些数据产生了哪些结果,以及在这个过程中侵犯了哪些知识产权。这既是魔力的一部分,也是令人恐惧的一部分。

EQTY Lab的目标之一是寻找一种方法来窥探黑匣子的内部,清晰地展现出人工智能是如何被管理、训练和产生的。这是EQTY Lab的目标之一,该实验室开展研究并创建工具,使人工智能模型更加透明和协作。例如,EQTY Lab的Lineage Explorer可以实时展示模型的构建过程。所有这些工具都旨在防止不透明性和集中化。EQTY Lab研究主管Ariana Spring表示:“如果你不了解人工智能做出决策的原因,或者谁应对此负责,那么很难审问为何会产生有害的结果。因此,我认为集中化以及将这些秘密隐藏在黑匣子中是非常危险的。”

Spring和她的同事Andrew Stanco(财务主管)表示,加密货币可以创造更加透明的人工智能,这些工具已经被用于气候变化科学,并且这些开源模型能够更具包容性和代表性。他们强调了在AI生命周期和训练过程的每个步骤都有一种由密码学自动注册的记载,以及他们在治理产品中使用智能合约的做法。EQTY Lab的重点是企业,他们与开发人员和部署模型的人员合作,为他们提供工具和研究,以帮助他们构建和部署模型。

对于人工智能最令人兴奋和最令人恐惧的地方,Andrew Stanco表示,让人兴奋的是第一次与生成式人工智能互动的时刻,而令人恐惧的是这些工具可能会让现有的获胜者加深其优势。Ariana Spring也表示对集中化感到恐惧,她认为集中化与不透明性相结合会带来危险。她最激动的是能够吸引更多的人参与,尤其是通过EQTY Research所做的工作,她期待着开始发布一些框架,以减少对可能不那么具代表性的系统的依赖。