香港文匯報訊 ChatGPT這款應用程式去年12月開始正式對外開放,迅速滲透各個階層和行業。然而ChatGPT作為一款智能文本生成軟件,僅僅是整個AIGC (AI Generated Content ,人工智能生成內容 ) 領域的一個縮影。許多領先的消費品牌不斷嘗試應用AIGC技術助力品牌營銷,並獲得一定成效。基於對新消費領域的長期關注和探索,羅兵咸永道指出,AIGC技術的應用能夠為企業帶來很多優勢,但提醒也要防範三大潛在風險。

內容可能不精確及存偏見

一)技術成熟度。AIGC已成為巨頭必爭之地,技術的成熟使得商業的想像空間已與過去大相徑庭,不過讓AI像人一樣使用語言仍需時間。AIGC雖然已經凸顯出極強的實用性,其生成的內容依然有着不精確的風險,甚至出現顯而易見的邏輯錯誤。品牌在應用AIGC的時候,還是需要將人員審核放在重要的位置上,營銷人員對於輸出的內容作出最終的把控,從而減少因為AI失誤導致的尷尬事件。

二)算法偏見。AIGC是通過大量的信息學習從而積累的訊息輸出能力,從這個角度說,AI的認知與反饋是受到幫助AI學習的人員的極大影響的。部分案例顯示可能產生關於意識形態、歧視等一系列風險,從而對品牌形象造成極為不利影響。目前如ChatGPT,已經通過很多技術手段與人員主動識別篩選從而盡量減少偏見與其他有害內容。

透明度和安全性或有衝突

三)版權和私隱保護。AI生成的內容是否構成「作品」。如果構成作品,版權擁有人是誰?侵犯的著作權具體是什麼?這一方面目前尚且沒有確定的標準和法律,將成為未來的隱憂。另外,AIGC技術的透明度和安全性可能發生衝突,私隱保護面臨技術性難題。AI能夠記住問答中個人訊息,並用於模型訓練和內容生成。這些訊息有可能被用來生成虛假訊息或惡意軟件,誘騙用戶洩露個人信息。