快眼看书网

手机浏览器扫描二维码访问

第62章（第1页）

两位家长就完全没有这个问题。

郑墨阳对叶庭的课题很感兴趣，放下了解扣子的手：“常识模型？”

叶庭点了点头：“ai能赢围棋世界冠军，通过律师资格考试，但在某些常识问题上，它连三岁小孩都不如。

如果没有常识，过度发展人工智能会很危险。”

冯诺一在旁边使劲点头：“就是。

而且训练大规模的ai模型，成本非常高，只有几家巨头有这个实力。

这不就是把训练人工智能的权利集中在了少数人手里吗？我怎么知道这几家科技公司是怎么训练模型的，会拿这些模型来干什么？”

郑墨阳在心中默数两秒，果然等到了冯诺一怀疑的瞪视。

“你现在不就在投资训练ai吗？”

他说。

郑墨阳说：“是，这是大势所趋。”

冯诺一叹了口气：“一想起未来科技掌握在你这种人手里，我鸡皮疙瘩都起来了。”

郑墨阳已经习惯了这种指控，他还没做什么，自家猫已经把屎盆子扣在了他头上。

叶庭看了看两位家长，觉得开始有吵架的趋势，于是插了话：“现在的ai训练大概是3类数据，原始网页数据，专门为ai训练定制的人工数据，和人类反馈。

如果只用第一种数据训练，后果是很可怕的，网页里有性别歧视，错误信息，和极端言论，容易造成误导。”

ai像是一个初涉人类社会的婴儿，让它沉浸在恶劣的网络环境中，相当于把一个孩子放到匪徒窝里。

“所以第二和第三种数据是必须的，它们相当于ai的教科书和老师，”

叶庭说，“人类需要筛选训练ai的信息，然后作为老师引导它，和它交流。”

冯诺一又叹了口气，看向郑墨阳：“我觉得这些数据都应该透明公开，我怎么知道你们给ai灌输了什么？”

郑墨阳叹了口气，叶庭继续说：“我的想法是，生成一个常识知识图谱和道德规范库，通过符号知识提炼和深度神经网络编写成模型，来训练ai，起到一个刹车装置的作用，避免ai走向极端。”

叶庭当然无法做出尽善尽美的模型，他只是个青少年。

isef注重的是提出问题、解决问题的能力，他只需要在能力限度做出最好的成果。

郑墨阳听后笑了笑，看着冯诺一：“不愧是你带出来的孩子。”

冯诺一得意地摇头晃脑，好像发明模型的是他自己：“等他研究出来了，你们公司的ai必须第一个接受教育。”

“你对我的信任还真是一如既往。”

冯诺一磨了磨牙。

“对了，有件事我要跟你们说一声，”

郑墨阳对两个吃饭的孩子说，“我马上要去美国待一年，跟那边的一家公司有个合作项目。”

这件事冯诺一几天前就知道，但和刚才的对话一联系，他突然警觉起来：“你不会真用ai干什么了吧？你去国外是不是潜逃？”

郑墨阳对他的脑回路哑口无言：“不是，你想到哪去了。”

冯诺一严肃起来：“你要是犯事了，赶紧把孩子从户口上撤下来，万一他们将来想考公务员呢？”

郑墨阳扶额。

“所以……”

“不是！”

冯诺一眯起眼睛，盯着爱人看了一会儿，决定暂时相信他。