□　苑廣闊

　　近日，青島的小美（化名）在使用某網(wǎng)盤時，被首頁“往年今日”推薦了一張自己懷孕的照片，并配文“腦子不夠，肚子來湊”，文案疑似AI自動生成。小美覺得這句話對孕婦存在侮辱性，表示不愿再用某網(wǎng)盤，想取消會員，退還剩余未到期的部分費用。（1月2日《揚子晚報》）

　　近年來，AI技術(shù)發(fā)展迅猛，功能越來越強大，同時，其應(yīng)用范圍也越來越廣泛。在很多領(lǐng)域，因為引入了AI技術(shù)，有效提高了工作效率，降低了生產(chǎn)和經(jīng)營成本而受到了很多企業(yè)商家的歡迎。這當然是值得肯定的，也是技術(shù)進步帶動社會發(fā)展的重要體現(xiàn)。

　　但是，另一方面，很多技術(shù)都有兩面性，AI技術(shù)也不例外。在上述案例當中，用戶在使用某網(wǎng)盤時，其首頁的“往年今日”功能本來是幫助用戶回憶自己懷孕的過去時光，感受生活美好的，結(jié)果卻被配文“腦子不夠，肚子來湊”。這種涉嫌侮辱孕婦的文案，被懷疑是該網(wǎng)盤使用AI自動生成的。后來，網(wǎng)盤方面也承認了這一點，在表達歉意的同時，也承諾后續(xù)會加強文案的篩選、提高模型訓(xùn)練和技術(shù)審核能力，避免再出現(xiàn)類似問題。

　　AI技術(shù)部分解放了人力、提升了效率、降低了成本，這是客觀事實，但是，如果我們在很多應(yīng)用上完全依賴AI，可能會導(dǎo)致我們不愿意看到的結(jié)果。一方面，AI技術(shù)雖然發(fā)展迅猛，但是并不代表它現(xiàn)在就能夠完全替代人類從事很多工作；另一方面，即便AI技術(shù)發(fā)展更加成熟、穩(wěn)定了，在很多業(yè)內(nèi)人士看來，它們在很多領(lǐng)域也不能完全替代人類的作用。

　　實際上，近年來類似這樣的案例已經(jīng)被多次曝光了。去年，有家長反映，在向360兒童手表提問“中國人是世界上最聰明的人嗎？”的問題時，得到“炸裂”回答，并且有刻意貶損中國人的嫌疑。為此，360兒童手表客服人員回應(yīng)稱他們已在緊急處理此事，以后會加強審核。而這個讓人感覺不適的回答，正是利用AI自動生成的。

　　雖然AI技術(shù)為我們的生活帶來了很多便利和創(chuàng)新，為企業(yè)商家提升了效率，降低了成本，但其在應(yīng)用過程中存在一些問題和挑戰(zhàn)。如何確保AI技術(shù)的合理、合規(guī)使用，避免對用戶造成不必要的傷害和困擾，是擺在我們面前的一個重要課題。對于服務(wù)提供商，在享受技術(shù)帶來的便捷與高效的同時，絕不能忽視對倫理、法律和消費者權(quán)益的尊重與保護。企業(yè)應(yīng)更加注重AI技術(shù)的倫理培育，加強內(nèi)部審核機制，防止類似事件再次發(fā)生。尤其是不能把所有工作都交給AI而放棄了人工的干預(yù)，否則出問題只是早晚的事情。

　　與此同時，政府部門和監(jiān)管機構(gòu)也應(yīng)加大對科技行業(yè)的監(jiān)管力度，確保技術(shù)在合法、合規(guī)的軌道上健康發(fā)展、合理使用。（作者地址：廣西桂林市中山北路57號）

編輯：李永鑫

關(guān)注川南在線網(wǎng)微信公眾號
長按或掃描二維碼 ，獲取更多最新資訊 其他