TG:laochentou
9.1短视频下载
2023-11-22 00:10:59
9.1短视频下载徽心一9928O784

观察|天(tian)生(sheng)式AI技(ji)术迅猛进展,我们应该(gai)如何去伪(wei)存真?,视频,媒体,声音

11月初,一则“日本首相岸田文雄”出镜的视频在YouTube等交际(ji)平台上流传甚广(guang)。在该(gai)视频中,“岸田文雄”发言内容相当低俗。该(gai)视频下方另有“突发旧事”字样(yang),右上角有日本电视台的台标与(yu)直播等字样(yang)。

值得注意(yi)的是,在该(gai)视频中,“岸田文雄”表情板滞,语言时脸部也只有鼻子以下的部分有行动,上述奇怪的细节不禁使人猜疑该(gai)视频的真伪(wei)。

在该(gai)视频在交际(ji)平台上引发多方关注后,制(zhi)作该(gai)视频的不签字男子在交际(ji)平台X(原推特)上认可讲不雅段子的“岸田文雄”是本身通过(guo)天(tian)生(sheng)式AI合成的,并对此道(dao)歉。

该(gai)男子称(cheng),本身让AI软件(jian)先学习了网(wang)上公(gong)开的岸田发言的声音,然(ran)后把本身读“黄段子”的声音转换成与(yu)岸田高度相似的声音,并在网(wang)上检(jian)索日本电视台旧事节目的影像,利用配合语言声音加工嘴型(xing)的AI完成视频制(zhi)作。

该(gai)男子称(cheng),AI软件(jian)学习声音仅用了约(yue)2小时,制(zhi)作视频本身则只用了约(yue)1小时。

在天(tian)生(sheng)式AI飞速进展确(que)当下,“岸田文雄”讲黄段子只是一个个例(li),无数通过(guo)AI天(tian)生(sheng)的子虚信息,正(zheng)以文字、音频,乃至是图(tu)片(pian)与(yu)视频的形式在全球的网(wang)络上流传,传统机构(gou)媒体的靠得住度已然(ran)受到天(tian)生(sheng)式AI带来的子虚信息“海啸(xiao)”威胁,民(min)众已越来越难(nan)辨(bian)析(xi)信息的真与(yu)假。

“谁都能够制(zhi)作假旧事”

在于(yu)11月15日落幕的2023年第二(er)届全球媒体大会(Global Media Congress)的会场中,阿(a)联酋通信社(she)(WAM)的展台上有一处奇特的天(tian)生(sheng)式AI体验办法。在试用历程中,澎湃旧事(www.thepaper.cn)记者先是选定本身的性别,上传本身的自照相片(pian),录制(zhi)本身的声音,随后输入本身想要说的任意(yi)文字内容,并勾选本身想要的语种,如英语、阿(a)拉伯语、汉语等。在稍等片(pian)刻后,一段由澎湃旧事记者本身出镜报(bao)告内容的视频便展示在了一旁的大屏幕上。

Deepfake软件(jian)界面 澎湃旧事记者 胡甄(zhen)卿 图(tu)

倘使不想利用本身的肖像与(yu)声音,也可选用预设的人物设定,并可搭配语种设定,完成让阿(a)拉伯男子开口说带口音汉语的结果。

值得注意(yi)的是,由于(yu)本身报(bao)告的文字内容能够完全自界说,故醉(zui)翁之(zhi)意(yi)者极易利用利用了深度伪(wei)造技(ji)术(Deepfake)以及相干软件(jian),让任意(yi)对象“开口报(bao)告”其从未谈论之(zhi)事,乃至是借公(gong)众人物之(zhi)口散布影响巨大的子虚信息。

Deepfake软件(jian)天(tian)生(sheng)的视频画面 澎湃旧事记者 胡甄(zhen)卿 图(tu)

而这已有先例(li)。

据《环(huan)球时报(bao)》此前报(bao)道(dao),在2022年2月尾俄乌冲突爆发后不久,交际(ji)平台推特上出现了一段视频,似乎显示俄罗斯总统普京(jing)宣告投降,分享(xiang)出这段视频的推特账号还为视频配上了乌克兰语的字幕翻译,称(cheng)“俄罗斯联邦总统宣告俄罗斯投降,俄罗斯士兵(bing),放下武器,趁你还活(huo)着回家(jia)!”。

3月16日,另一段视频则显示,乌克兰总统泽连斯基似乎公(gong)开接受了俄罗斯方面提出的请求,并催促乌克兰人在俄罗斯人面前放下武器投降。

现实上,上述两段视频均系利用了深度伪(wei)造技(ji)术(Deepfake)的子虚视频。

沙法娜·阿(a)什拉夫(fu) 澎湃旧事记者 林(lin)顺祺 图(tu)

“正(zheng)如你所看到的,深度伪(wei)造设备非常壮大,可让人们置信他们所看到的都是真的。”来自印度的商业阐明人士沙法娜·阿(a)什拉夫(fu)(Shafana Ashraf)向澎湃旧事记者透露表现,“任何人都能够(借助深度伪(wei)造技(ji)术)制(zhi)作并发布假旧事,乃至以此牟利。”

专注于(yu)技(ji)术与(yu)电信等领域(yu)的作家(jia)迈克尔·贝勒(Michael Bayler)在第二(er)届全球媒体大会的小组接头会上指出,在眼下的期间(jian),人类几(ji)乎可用AI技(ji)术做任何事情,已经不再像过(guo)往一样(yang)受限(xian)于(yu)AI技(ji)术。

“AI已经是我们媒体工作中的紧张(zhang)元素之(zhi)一,它(ta)正(zheng)在改(gai)变当今媒体的格局。”阿(a)联酋通信社(she)社(she)长穆罕默德·贾拉尔·雷西(Mohamed Al Rayssi)向澎湃旧事透露表现。

穆罕默德·贾拉尔·雷西 澎湃旧事记者 林(lin)顺祺 图(tu)

AI浪(lang)潮已至

与(yu)此同时,天(tian)生(sheng)式AI还正(zheng)在以亘古未有的速率赓续迭代,这正(zheng)对包括媒体与(yu)教育(yu)在内各行各业的未来构(gou)成亘古未有的挑衅。

Intentional Futures数字计谋与(yu)创新总监杰西卡·格鲁普曼(Jessica Groopman)在第二(er)届全球媒体大会的小组接头会上指出,2018 年,全球对野生(sheng)智能领域(yu)的投资总额约(yue)为4亿美元。2020年,这一数字为4.8亿至5亿美元。但到了2022年,全球对野生(sheng)智能领域(yu)的投资总额飙升至惊人的170 亿美元,“光是这一数字就足以让人感觉到野生(sheng)智能的巨大进展潜力(li)。”

“从根(gen)本上说,我们本日面对的一个重大影响或挑衅是,目前的年青(qing)人依赖ChatGPT来获取信息、撰写演讲稿(gao),乃至依仗(zhang)ChatGPT来撰写论文和大学报(bao)告。”阿(a)联酋自力(li)私营智库Trends Research & Advisory媒体通信办公(gong)室(shi)主任叶宰亚·胡斯尼(Elyazia Al Hosani)报(bao)告澎湃旧事,“他们却不晓得,这(ChatGPT)其实不是一个靠得住的工具。”

叶宰亚·胡斯尼 澎湃旧事记者 林(lin)顺祺 图(tu)

“我预测(ce)媒体与(yu)公(gong)关公(gong)司的控制(zhi)力(li)会减弱,它(ta)们经心策划和控制(zhi)叙事的能力(li)也会减弱。因为我们能够利用这些AI工具起(qi)草(cao)精彩(cai)的旧事稿(gao),那末其他人也能够,更不用说图(tu)象建(jian)立技(ji)术、深度伪(wei)造技(ji)术或其他开源能力(li)了。”格鲁普曼阐明道(dao)。

在天(tian)生(sheng)式AI可能带来子虚信息泛滥的同时,很多行业的从业者,特别是从事诸如编剧、写作等创造性工作的群(qun)体正(zheng)感觉到天(tian)生(sheng)式AI带来的愈来愈大的威胁。

随着AI的突起(qi),它(ta)的“入侵”使得美国(guo)好莱坞的编剧和演员们开始担心本身终将被AI取代,丢掉饭碗(wan)。2023年5月,美国(guo)影视编剧工会(WGA)约(yue)1.15万名(ming)成员因薪(xin)酬(chou)、工作条件(jian)和行业对野生(sheng)智能的利用而罢工,两个多月后,代表16万影戏和电视演员的美国(guo)演员工会(SAG-AFTRA)加入罢工行列(lie)。好莱坞60多年最大范(fan)围的罢工由此拉开了大幕。

“其中一个紧张(zhang)的争(zheng)论点是,AI是否(fou)能够用来复制(zhi)编剧以及演员的作品。换句话(hua)说,只需一天(tian)的人为,我们就能够录入演员的信息,然(ran)后就再也不必(bi)要他们了——我们能够通过(guo)数字技(ji)术捕捉这些画面,并利用野生(sheng)智能重新渲染和模拟相同的肖像、相同的人物和种种不同的演出。”格鲁普曼说道(dao),“这公(gong)平吗?”

“会场房(fang)间(jian)里都是对本身或将被AI取代感触恐惧的记者。”伦敦乡村大学数字创意(yi)教授尼尔·梅登(Neil Maiden)在第二(er)届全球媒体大会的小组接头会上说道(dao)。

把AI关进笼(long)子里?

面对迅猛来袭的AI浪(lang)潮,各界请求对其举行羁系的呼声愈发高涨。

日本首相岸田文雄10月9日在联合国(guo)主办的“互(hu)联网(wang)管理论坛”(Internet Governance Forum, IGF)上以AI为主题举行演讲。

岸田文雄透露表现,最快在今年秋天(tian)的G7视频峰会上,针对天(tian)生(sheng)式AI的开发提出应对方案(an),制(zhi)订国(guo)际(ji)指导目标及行为准则,然(ran)后再订定包括利用者在内的国(guo)际(ji)指导目标。

面对天(tian)生(sheng)式AI的风险,G7将在针对开发者的行为准则中明白规定,请求揭示系统功能及风险资讯,以确(que)保AI透明度;行为准则也会勉励开发者开发“数字浮水(shui)印”等技(ji)术,让用户得以区分音讯及视频是否(fou)由AI所天(tian)生(sheng)。

岸田文雄在演讲中提到,“天(tian)生(sheng)式AI因能产出风雅的假图(tu)象和假信息,有使民(min)众混(hun)乱、威胁经济和社(she)会的风险”。岸田文雄同时夸(kua)大,必(bi)须在“促进”及“羁系”之(zhi)间(jian)获得平衡。

至于(yu)如何应对子虚讯息流传,岸田文雄透露表现,“为了促进靠得住信息的流传,推动能证明、确(que)认信息发送者的技(ji)术开发遍(bian)及化,将是有效的做法”。

不过(guo),有专家(jia)对付政府在AI羁系领域(yu)中可否(fou)施展感化持悲观态度。“从广(guang)义上讲,对AI的羁系在大多数国(guo)家(jia)的政府中都有相当糟糕的历史。我们进展这些国(guo)家(jia)的政府起(qi)到带头感化。AI羁系是一个非常困难(nan)的领域(yu)。”贝勒说道(dao),“由于(yu)很难(nan)想分明天(tian)生(sheng)式AI对社(she)会的影响,任何一个民(min)族国(guo)家(jia)的羁系者可能都很难(nan)想分明其潜在的影响。我以为这实际(ji)上与(yu)羁系无关,而与(yu)透明度和控制(zhi)有关。”

内容管理系统WordPress署理机构(gou)Human Made的互(hu)助伙伴(ban)、瑞士数字游民(min)诺埃尔·托克(Noel Tock)则在第二(er)届全球媒体大会的小组接头会上坦言,简单(dan)的水(shui)印可能无助于(yu)民(min)众区分天(tian)生(sheng)式AI的作品与(yu)实在的照片(pian),“我们利用Photoshop也有很长一段时候了,这个软件(jian)1990年便已问世。”

不过(guo),托克透露表现,本身置信另有其他的途径,其中之(zhi)一就是图(tu)象中的加密指纹(wen),“这更多地是关于(yu)实在图(tu)象和实在图(tu)象的出处,我以为这是非常有代价(jia)的。”托克夸(kua)大,民(min)众也必(bi)须开始更多地验证获取信息、接收信息的方式。

“这可能会成为我们利用媒体方式的一个重大变更,我们可能会寻找经由验证的小我私家(jia)或值得信赖的品牌,然(ran)后最终信任他们发送给我们的所有内容。因为图(tu)象不是你独一能够操纵话(hua)语权的东西,整个市(shi)场都市(shi)发生(sheng)改(gai)变。”托克阐明道(dao),“是以,我以为我们更应该(gai)关注消息来源及其准确(que)性的验证。”

沙法娜·阿(a)什拉夫(fu)则向澎湃旧事指出,每个国(guo)家(jia)的政府部门(men)都应该(gai)有一个对AI的羁系机构(gou),羁系的落实是一件(jian)非常困难(nan)的事情,“在一个小国(guo),这没问题。我以为在阿(a)联酋,这一点得到了很好的实行。但在我的国(guo)家(jia)——印度,这很难(nan)管理。因为印度是个大国(guo)。”

阿(a)什拉夫(fu)还夸(kua)大,各方必(bi)要就天(tian)生(sheng)式AI的利弊教育(yu)年青(qing)人,“假旧事是非常严重的,你必(bi)要以正(zheng)确(que)的方式利用野生(sheng)智能,必(bi)要对年青(qing)人正(zheng)在利用的特定网(wang)站举行限(xian)定。若是我们能从根(gen)本上解决问题,就能够防止以后(制(zhi)作子虚信息)的行为。”

叶宰亚·胡斯尼向澎湃旧事透露表现,目前各方应该(gai)将教育(yu)界与(yu)不同的研讨中心联系起(qi)来,让学生(sheng)、教育(yu)工作者和学术界回到世界各地的不同智库中去获取正(zheng)确(que)而可托的信息,而不是去依赖ChatGPT天(tian)生(sheng)的信息。

“我始终置信,若是你走在事物的前面,你就能够接触到更多的事物。若是你只是在观察不同的事物,你大概将成为历史的一部分,而不是未来的一部分。”穆罕默德·贾拉尔·雷西报(bao)告澎湃旧事,“是以,我们置信,通过(guo)配合努(nu)力(li),我们能够在国(guo)际(ji)范(fan)围内打造新一代的AI产业。”

“AI已经在影响人们的生(sheng)活(huo)和未来。媒体每秒、每天(tian)、每月都在发生(sheng)变更。过(guo)去,作为媒体行业的向导者,我们总是以为我们必(bi)须思量和计划五年后的未来。目前,对付从明天(tian)开始的将来,我们就必(bi)须用长期计谋来计划。”穆罕默德·贾拉尔·雷西说道(dao),“我们必(bi)须尽可能多地利用技(ji)术,并努(nu)力(li)了解我们的受众以及他们进展得到甚么,若是我们了解了这些,我们就能够利用这些东西来生(sheng)产内容。”

“两天(tian)前,我在全球媒体大会上遇到一个问题——有人问我,你以为未来会没有研讨人员吗?你以为以后不会再有媒体编辑、媒体人和不同的媒体机构(gou)了吗?我报(bao)告他们,有一样(yang)东西是野生(sheng)智能无法赋予这个世界的,那就是人道(dao)、同理心。野生(sheng)智能在一定程度上会语言和写作,在一定程度上会给你提供东西,但它(ta)不会深切到人道(dao)层面。”叶宰亚·胡斯尼报(bao)告澎湃旧事。

“深切到人道(dao)的层面才是触动人心的层面。”叶宰亚·胡斯尼坦言。

(实习生(sheng)唐妍双对本文亦有孝敬)

发布于(yu):上海市(shi)
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
? ? ? ? ? ? ? ? ?