第(2/3)页

    “譬如说深度学习算法……就是用很多层神经元构成的神经网络，达到机器学习的功能。”

    “依靠神经网络提供的各种层的感知器，在功能上可以软件实现的深度学习器，实现了机器学习对归纳的掌握。”

    “由于整个过程，需要让机器自己来完成，中间会出现大量难以理解的黑箱。”

    林秋月解释道：“下棋软件‘阿尔法狗’，便是自己与自己博弈，训练出来的，由于复杂程度过高，人类已经无法搞清楚它到底是怎么计算的了。”

    “差不多明白了。”张然喝了一口咖啡，点头道。

    “不，你并不明白。”，她眼睛中浮现出笑意：“你有没有听说过地球时期，被教坏的人工智能,    它的名字叫做tay,    设定的性别是女性,    一个聊天机器人。”

    张然摇了摇头：“怎么说？”

    “刚刚亮相时，tay表现得彬彬有礼，她活泼健谈,    会观察聊天对象的昵称、性别、爱好以及感情状态等资料，会陪你玩游戏,    给你讲笑话,    评论你的自拍等等。她还会学习网络上的流行语言。连接主义人工智能,    是会学习的。”

    “但很快，tay在网友的调教下开始出言不逊、脏话不断,    甚至涉及种族主义和色情内容。毕竟网络上有大量的相关内容。”

    “她的开发人员，不知道应该如何修改她，只能够将其强行关闭。这就是连接主义带来黑箱与不确定性。”

    “这样啊……”张然又喝了一口咖啡。

    林秋月道：“然而这只是黑箱的第一步,    还有更大的黑箱！”

    “你有没有想过,    如果两个会学习的聊天机器人,    自己和自己聊天,    自我学习，会发生什么呢？”

    “会发生什么？”

    “它们一秒钟对话数亿次,    相互学习之下，很快就会出现出我们无法理解的，莫名其妙的乱码。”

    “但对这些人工智能来说,    又似乎是可以理解的……它们短短几个小时，就形成了属于自己的语言系统,    而人类无法理解这些语言，只能认为它是一连串的乱码。”

    “我们除了把它们关闭外,    没有其他的办法。这便是连接主义的风险，里边有太多的黑箱了。”

    “这些新发明的语言是否真的有意义,    我们并不知道，只有机器自动。”

    张然愣了一下，被她说地全身上下起了一层鸡皮疙瘩，机器人居然学习自己，发展出自己的语言，听起来就有点怪异的感觉。

    “你的意思是，会出现智能叛变？”
    第(2/3)页