成瘾性人工智能推荐算法就像毒品一样?人大代表疾呼:立刻监管!

原标题:成瘾性人工智能推荐算法就像毒品一样?人大代表疾呼:立刻监管!

你可曾有过这样的经历:打开某APP,看到一条低俗软色情的帖子,没忍住点了开来。从此,系统天天给你整屏整屏地推荐这类帖子,有价值的信息被淹没,让你束手无策。你干脆放纵自己,沉溺在低俗信息之中。

在这个信息爆炸的时代,个人智能终端已经基本到了全民普及的程度。注意力经济成为了所谓新经济的核心锚点之一,为几乎所有的智能应用系统所重点关注。如何吸引注意力,增加个人在移动应用系统上面的停留时间,已经成为考核系统核心算法的关键指标。

市人大代表陈杰军意识到,这些精巧设计,擅长利用人体神经细胞的运作机制,擅长利用人性弱点的算法,不断精益求精,努力建立人的行为预测模型,精巧推荐让用户感兴趣的内容,让人不由自主深陷其中,不能自拔。

“这些算法对于人脑神经细胞的影响,已经接近毒品的作用机理,任其发展下去不加以监管,会带来非常严重的问题,尤其对于青少年一代。”陈杰军说,算法在明显诱导人上瘾,成瘾性人工智能算法会使人丧失独立思考的能力,“是时候严肃思考这些算法本身所带来的生理以及伦理问题。”

陈杰军建议,建立对于个人消费电子智能应用系统中的人工智能算法的评价体系,引入类似于电影等的审核评级机制;对于明显诱导人上瘾的算法,禁止进行发布。扩展“净网行动“的监管范围,建立定期审核机制。定义并深化政府的“防沉迷政策”,使用相应的法规来约束。

栏目主编:张骏

文字编辑:曹飞

题图来源:视觉中国

图片编辑:徐佳敏

原创文章,作者:PC4f5X,如若转载,请注明出处:http://www.tobiricca.com/329.html

发表评论

邮箱地址不会被公开。 必填项已用*标注