據(jù)報道，蘋果公司阻止了一款電子郵件應用程序基于ChatGPT的更新，原因是擔心可能會生成不適合兒童的內(nèi)容。這款應用程序名為BlueMail，該應用程序試圖增加AI功能，使用ChatGPT來幫助自動編寫郵件。(新浪財經(jīng))

這一消息來自蘋果公司發(fā)給該應用開發(fā)者的郵件，這款應用名為BlueMail，開發(fā)公司為Blix，其聯(lián)合創(chuàng)始人本 沃拉赫(Ben Volach)介紹，上周，蘋果公司采取措施阻止了BlueMail的更新，因為擔心該應用中一個新的人工智能功能可能會顯示不適當?shù)膬?nèi)容。BlueMail的新人工智能功能使用OpenAI最新的ChatGPT聊天機器人來幫助用戶根據(jù)之前的電子郵件和日歷事件自動寫出電子郵件。

蘋果公司的應用審核團隊上周在發(fā)送給該應用開發(fā)者的信中稱，“你的應用包含了由人工智能生成的內(nèi)容，但目前似乎沒有包含內(nèi)容過濾功能?！痹搶徍藞F隊說，由于該應用可能產(chǎn)生不適合所有受眾的內(nèi)容，BlueMail 應該將其年齡限制提高到17歲以上，或者包含內(nèi)容過濾功能。文件顯示，沃拉赫說該應用有內(nèi)容過濾功能，目前該應用對4歲及以上用戶開放。蘋果公司對17歲及以上用戶設置了年齡限制，這個類別包括可能包含從粗俗語言到性、毒品內(nèi)容等各種內(nèi)容的應用。沃拉赫說，這個要求是不公平的，并且其他有類似人工智能功能而沒有年齡限制的應用已經(jīng)被允許在蘋果用戶中使用，“蘋果公司讓我們很難給我們的用戶帶來創(chuàng)新?！蔽掷照f。

(資料圖片)

蘋果公司的一位發(fā)言人說，開發(fā)者可以通過其應用審核委員會的申訴程序來申訴，并且該公司正在調(diào)查Blix的申訴。

所謂的生成型人工智能已經(jīng)成為幾十年來最受關注的發(fā)展中技術之一，主要由OpenAI創(chuàng)建的ChatGPT聊天機器人引發(fā)。

此前曾報道，微軟最近發(fā)布了一個新版本的必應應用，其中包含了ChatGPT功能，并將其提交到蘋果的App Store和谷歌的AndroidPlay Store。在iPhoneApp Store中的必應應用遵循了蘋果公司要求的17歲以上年齡的用戶限制，而在谷歌Play商店中沒有任何年齡限制。一位微軟發(fā)言人說，在App Store中的必應擁有17歲以上年齡限制是因為該應用能夠找到成人內(nèi)容。

相關閱讀

經(jīng)濟日報：“ChatGPT禁令”頻發(fā)為哪般？

要說2023年初的互聯(lián)網(wǎng)熱點當屬ChatGPT，但是最近多家公司和機構開始對ChatGPT的使用施加限制。以ChatGPT為代表的人工智能技術在給人類帶來便利的同時也引發(fā)了諸多擔憂。

首先是信息泄露和合規(guī)風險。摩根大通近日開始限制員工使用ChatGPT，成為第一家在工作場所限制使用ChatGPT的華爾街投行。隨后，花旗集團和高盛集團也加入華爾街禁用ChatGPT之列。而此前，微軟和亞馬遜因擔心泄露機密信息，禁止公司員工向ChatGPT分享敏感數(shù)據(jù)，因為員工輸入的信息可能會被ChatGPT用作進一步迭代的訓練數(shù)據(jù)。咨詢公司埃森哲也出于類似原因，警告員工不要將客戶信息透露給ChatGPT。

其次是內(nèi)容剽竊和作弊風險。在大學和出版界，“ChatGPT禁令”已經(jīng)較為普遍。為避免學生過于依賴此類工具，美國、法國、英國等多國學校發(fā)出禁令，禁止學生在學校內(nèi)使用類似于ChatGPT的人工智能工具完成學習任務和考試。香港大學近日也表示，禁止在港大所有課堂、作業(yè)和評估中使用ChatGPT或其他人工智能工具。美國知名科幻雜志《克拉克世界》宣布，由于近期收到大量人工智能生成的稿件，決定停止接收投稿。在學術、應試和文學創(chuàng)作等領域，ChatGPT的表現(xiàn)十分優(yōu)秀，遭到的反對也最為激烈，因為人們擔心對此類軟件的過度依賴將會使人喪失獨立思考的能力。

此外，ChatGPT等人工智能技術對網(wǎng)絡和數(shù)據(jù)安全的威脅也值得關注。盡管ChatGPT本身尚不具備直接攻擊網(wǎng)絡安全和數(shù)據(jù)安全的能力，但由于它具有自然語言生成和理解的能力，能夠用來編程或寫論文，自然也能被用來編寫惡意代碼、垃圾郵件等。

任何一項新技術的誕生往往伴隨著弊端與風險。面對人工智能帶來的挑戰(zhàn)，相應的安全技術和監(jiān)管制度應該跟上。許多大學已經(jīng)在使用檢測抄襲的軟件，ChatGPT的開發(fā)者OpenAI公司表示，該軟件的目標是與教育工作者合作，幫助教師和學生從人工智能中受益，不希望ChatGPT在學校或其他任何地方被用于誤導目的，已經(jīng)在開發(fā)應對措施，以幫助識別該系統(tǒng)生成的文本。而針對此類應用的安全風險，目前國內(nèi)外已經(jīng)有不少業(yè)內(nèi)企業(yè)著手建設人工智能安全平臺，以提升對于威脅的檢測和響應能力。總體來看，只有在合理的監(jiān)管和治理之下，人工智能技術才能更好地為人服務。

關鍵詞 人工智能 年齡限制 電子郵件