美聯社限制記者使用生成式人工智能的指南

美聯社發布了使用生成式人工智能的指南，這家著名的新聞機構強調了人類監督在新聞業中的作用。

美聯社。圖片：Shutterstock

為了消除對其報導的任何潛在負面影響，美聯社週三發布了新的指導方針，限制記者使用生成人工智能工具進行新聞報導。

美聯社負責標準和包容性的副總裁阿曼達·巴雷特(Amanda Barrett) 制定了一些限制，規定了美聯社將如何處理未來的人工智能問題。首先，記者不得使用ChatGPT 來創建可發布的內容。

Barrett 寫道：“生成式人工智能工具的任何輸出都應被視為未經審查的源材料。”他補充說，工作人員在考慮發布任何信息時應使用他們的編輯判斷和媒體的採購標準。

此外，美聯社不允許使用生成式人工智能在照片、視頻或音頻中添加或刪除元素。它還不會傳輸人工智能生成的被懷疑是“虛假描述”的圖像，即所謂的深度偽造圖像，除非它是故事的主題並且有明確的標籤。

Barrett 警告工作人員，由於生成式人工智能很容易傳播錯誤信息，Barrett 建議美聯社記者要勤奮，並像平常一樣保持謹慎和懷疑，包括試圖確定原始內容的來源。

“如果記者對這些材料的真實性有任何疑問，”她寫道，“他們就不應該使用它。”

雖然這篇文章強調了美聯社記者使用生成人工智能的能力受到限制，但它確實在某些方面表現出樂觀的基調，表明人工智能工具也可能使記者的報導受益。

Barrett 寫道：“準確性、公平性和速度是美聯社新聞報導的指導價值觀，我們相信，謹慎使用人工智能可以服務於這些價值觀，並隨著時間的推移改善我們的工作方式。”

此外，她澄清說，這家擁有177 年曆史的新聞機構並不認為人工智能可以取代記者，並補充說美聯社記者對他們分享的信息的準確性和公平性負責。

Barrett 指出美聯社上個月與OpenAI 簽署的許可協議，該協議使ChatGPT 創建者能夠訪問美聯社自1985 年以來的新聞報導檔案。作為交換，該協議為媒體機構提供了訪問OpenAI 的產品和技術套件的機會。

與OpenAI 達成交易的消息傳出前幾天，這家人工智能初創公司向美國期刊項目承諾了500 萬美元。同月，OpenAI 與股票媒體平台Shutterstock簽署了一份為期六年的合同，以訪問其龐大的圖像和媒體庫。

在人們對生成式人工智能的潛力以及通過聊天機器人以對話方式查找信息的能力進行大肆宣傳的同時，人們對最終提供給用戶的一些信息的準確性產生了越來越多的擔憂。

雖然人工智能聊天機器人可以產生看似真實的反應，但它們也有一個眾所周知的習慣，即得出實際上不真實的反應。這種現像被稱為人工智能幻覺，它可以產生虛假內容、新聞或有關人、事件或事實的信息。 A