版面截屏圖
【編者按】
人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)。生成式人工智能的迅速崛起，正使得AI逐漸滲透至普通人的生活。正如任何先進(jìn)技術(shù)都可能被誤用，AI作為工具被濫用的情況也逐步浮出水面。技術(shù)無(wú)善惡，但法律有邊界，新華每日電訊推出系列評(píng)論，為走偏的AI劃出界限。
復(fù)活逝者？AI變現(xiàn)不能無(wú)倫理底線
評(píng)論員顏之宏
近日，一些商業(yè)機(jī)構(gòu)聲稱只要“一張照片”和“一段人聲錄音”，就能利用AI技術(shù)“復(fù)活”逝者，讓其親屬緩解相思之苦。為證實(shí)其能力，部分商家還使用AI技術(shù)“復(fù)活”了一些已故明星，以此達(dá)到招徠顧客的目的。這一行為迅速在社交平臺(tái)上引起關(guān)注，一些被“復(fù)活”藝人的親屬對(duì)此強(qiáng)烈不滿，要求刪除視頻。
AI技術(shù)正站在風(fēng)口上，存在巨大的商業(yè)想象空間。但是，在“技術(shù)變現(xiàn)”的過(guò)程中，應(yīng)以恪守倫理為原則，以遵守法律為底線。民法典第994條明確規(guī)定，“死者的姓名、肖像、名譽(yù)、榮譽(yù)、隱私、遺體等受到侵害的，其配偶、子女、父母有權(quán)依法請(qǐng)求行為人承擔(dān)民事責(zé)任；死者沒有配偶、子女且父母已經(jīng)死亡的，其他近親屬有權(quán)依法請(qǐng)求行為人承擔(dān)民事責(zé)任。”這就意味著，即使斯人已逝，其面容、聲音等特征信息仍受法律保護(hù)。上述事件中，商家若沒有取得相關(guān)近親屬的同意授權(quán)，就涉嫌違法。
用AI技術(shù)來(lái)延續(xù)親人的“數(shù)字生命”，還必須恪守倫理底線、彰顯技術(shù)溫度。不久前，一位短視頻博主為了撫慰自己的奶奶，利用AI換臉技術(shù)，將因病去世的父親“復(fù)活”，網(wǎng)友紛紛點(diǎn)贊。如此善意地使用技術(shù)，既為生者留念想，也為逝者保尊嚴(yán)，應(yīng)當(dāng)被鼓勵(lì)。這與某些只為博流量、謀利益的做法形成了鮮明的對(duì)比。在堅(jiān)持正確價(jià)值導(dǎo)向的前提下，將前沿技術(shù)進(jìn)行商業(yè)轉(zhuǎn)化不僅能帶來(lái)可觀的經(jīng)濟(jì)利益，也能反過(guò)來(lái)助力技術(shù)水平的提升。當(dāng)下，有人用AI技術(shù)找到了程序中的“BUG”，達(dá)到了降本增效的目的；有人用AI技術(shù)“開天眼”，幫助醫(yī)生在患者的CT圖像中找病灶；還有人把AI技術(shù)用在影視作品的特效制作中，以此提升影視劇的觀賞性。這些真實(shí)的案例都能產(chǎn)出高附加值的經(jīng)濟(jì)效益，也是“技術(shù)向善”的重要體現(xiàn)。
從“一鍵脫衣”到“復(fù)活生意”，在技術(shù)發(fā)展的過(guò)程中，行業(yè)參與者不能將牟利訴求建立在他人的痛苦之上。針對(duì)此類不法現(xiàn)象，有關(guān)部門也應(yīng)采取措施，維護(hù)法律的嚴(yán)肅性，營(yíng)造清朗的網(wǎng)絡(luò)空間。
刷榜跑分？AI評(píng)測(cè)不應(yīng)走偏路線
評(píng)論員周琳、董雪
“百模大戰(zhàn)”以來(lái)，AI大模型的部分榜單上出現(xiàn)了一個(gè)奇怪現(xiàn)象：長(zhǎng)期盤踞在榜單前列的，經(jīng)常是一些名不見經(jīng)傳的國(guó)產(chǎn)大模型，它們竟然以接近滿分的優(yōu)勢(shì)碾壓了ChatGPT、Gemini和其他知名的AI大模型。
之所以令人大跌眼鏡，是因?yàn)檫@與大眾的實(shí)際體驗(yàn)嚴(yán)重不符。不少AI大模型分?jǐn)?shù)名列前茅，實(shí)力卻不及格。如果說(shuō)“聽不懂答不對(duì)、動(dòng)不動(dòng)就崩潰”司空見慣，那么更諷刺的是，有的大模型根本沒對(duì)業(yè)界開放，就算大家想感受一下“第一名”的風(fēng)采都找不到門路。
有人可能會(huì)好奇：一些AI大模型“高分低能”是怎么做到的？原因其實(shí)很簡(jiǎn)單，那就是評(píng)測(cè)中出現(xiàn)了數(shù)據(jù)污染和泄露。簡(jiǎn)單來(lái)說(shuō)，榜單排名類似于有第三方“考官”出了一個(gè)題庫(kù)，題庫(kù)中大量考題針對(duì)性測(cè)評(píng)大模型各個(gè)方面的能力，而有的“考生”提前拿到題庫(kù)，并把答案逐一背了下來(lái)。
“考高分”的目的也很明確，那就是投機(jī)取巧、炒作包裝。業(yè)內(nèi)人士告訴記者，在國(guó)內(nèi)眾多大模型激烈競(jìng)爭(zhēng)、良莠不齊的當(dāng)下，許多大模型還未在用戶之間形成過(guò)硬的口碑，離產(chǎn)生世界級(jí)影響還有較遠(yuǎn)的一段路。而評(píng)測(cè)是直觀體現(xiàn)大模型能力的關(guān)鍵方式之一，學(xué)術(shù)化榜單和市場(chǎng)化榜單都得到了廣泛重視，刷榜跑分因此成為一些企業(yè)快速吸引眼球的手段。
當(dāng)然，榜單失真的背后，不只有作弊的“考生”，也可能有徇私的“考官”。業(yè)界需要客觀、公正、高水準(zhǔn)的優(yōu)質(zhì)榜單幫助大家慧眼識(shí)珠、去偽存真，“考官”如果協(xié)助“考生”作弊，無(wú)疑會(huì)擾亂AI大模型的評(píng)測(cè)環(huán)境。所幸我們看到，部分榜單在遇到刷榜跑分問(wèn)題后，及時(shí)推出補(bǔ)救措施，例如將公開大模型和非公開大模型區(qū)分為兩張榜單，成功擠出大量非公開大模型的水分。
是金非金焰烈而曉，部分大模型企業(yè)一心撲在刷榜跑分上顯然走偏了路線。說(shuō)到底AI大模型的發(fā)展還是那句老話，關(guān)鍵核心技術(shù)要不來(lái)、買不來(lái)、討不來(lái)，更包裝不來(lái)，唯有一步一個(gè)腳印，扎扎實(shí)實(shí)地向前走。
套殼冒充？AI推廣不應(yīng)觸法律紅線
評(píng)論員程思琪
你以為用的是ChatGPT，其實(shí)只是“套殼AI”。前不久，上海市場(chǎng)監(jiān)管部門查辦了一起ChatGPT商業(yè)混淆案，當(dāng)事人聲稱可提供ChatGPT服務(wù)，但消費(fèi)者使用的卻并非正品。一時(shí)間，“套殼AI”引發(fā)輿論關(guān)注，也讓不少AI界“李鬼”現(xiàn)了原形。
自AI產(chǎn)業(yè)蓬勃發(fā)展以來(lái)，“套殼AI”現(xiàn)象便屢屢發(fā)生。2023年初，百度“文心一言”上市前夕，網(wǎng)上就曾出現(xiàn)大量自稱“文心一言”的社交賬號(hào)，后被官方證明均為假冒。這些“套殼AI”的經(jīng)營(yíng)者通過(guò)將自己的產(chǎn)品與知名AI產(chǎn)品進(jìn)行“攀附”，刻意混淆，讓消費(fèi)者誤認(rèn)誤用，從而獲取不當(dāng)利益。
“套殼AI”如此泛濫，一方面源于人們對(duì)前沿科技的狂熱追逐，另一方面也由于人工智能大模型的開源生態(tài)讓生成式AI更容易被濫用。據(jù)專家分析，“套殼AI”主要有兩種模式，一種是通過(guò)接入官方平臺(tái)，以中轉(zhuǎn)站形式給用戶當(dāng)“二傳手”；另一種則完全使用山寨平臺(tái)，使用與知名平臺(tái)高度相似的名稱、標(biāo)識(shí)等作為“偽裝”。
但不論是哪一種模式，“套殼AI”都隱藏著巨大法律風(fēng)險(xiǎn)和安全隱患。根據(jù)《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》第六條的規(guī)定，經(jīng)營(yíng)者不得實(shí)施足以引人誤認(rèn)為是他人商品或者與他人存在特定聯(lián)系的混淆行為。由此可見，上述AI商業(yè)混淆案的當(dāng)事人已構(gòu)成違法。不僅如此，使用知名平臺(tái)名稱、商標(biāo)等行為還涉嫌違反商標(biāo)法、消費(fèi)者權(quán)益保護(hù)法、網(wǎng)絡(luò)安全法等相關(guān)法律規(guī)定。
于消費(fèi)者而言，誤用“套殼AI”，還可能陷入其背后隱藏的各類信息安全風(fēng)險(xiǎn)。只需做一些“技術(shù)手腳”，不法分子就可以在用戶與“套殼AI”暢聊時(shí)，不知不覺竊取用戶個(gè)人隱私，再以此定制“個(gè)性化”騙局引人上鉤。
不可否認(rèn)，人工智能產(chǎn)業(yè)的崛起得益于經(jīng)營(yíng)主體的熱情參與，而從業(yè)者的經(jīng)營(yíng)行為也關(guān)系著AI產(chǎn)業(yè)的健康發(fā)展。經(jīng)營(yíng)者只有充分挖掘自身優(yōu)勢(shì)，嚴(yán)守法律底線，才能在市場(chǎng)競(jìng)爭(zhēng)中抓住機(jī)遇長(zhǎng)久發(fā)展。而這些企圖投機(jī)取巧的“套殼AI”終將在市場(chǎng)的大浪淘沙中被淘汰。
來(lái)源：新華每日電訊
