工具/原料：
系統(tǒng)版本：win10系統(tǒng)
品牌型號(hào)：華碩F83E66Se-SL

ChatGPT大火背后的隱憂

一、用ChatGPT作弊易被發(fā)現(xiàn)

讓ChatGPT得到如此多關(guān)注的原因之一是它撰寫(xiě)的論文通過(guò)了美國(guó)法學(xué)院的考試，據(jù)法新社近日?qǐng)?bào)道，這個(gè)由大量互聯(lián)網(wǎng)數(shù)據(jù)驅(qū)動(dòng)的聊天機(jī)器人撰寫(xiě)了從憲法、稅收到侵權(quán)等主題的論文，并一一通過(guò)了法學(xué)院的考試。這樣的結(jié)果讓教育界重視起該軟件對(duì)學(xué)生們可能造成的影響，有教育工作者警告稱，ChatGPT的誕生可能會(huì)導(dǎo)致廣泛的學(xué)術(shù)作弊行為，甚至標(biāo)志著傳統(tǒng)課堂教學(xué)方式的終結(jié)。

明尼蘇達(dá)大學(xué)法學(xué)院教授蔡宗衡(Jonathan Choi)為此做了一個(gè)實(shí)驗(yàn)，他在ChatGPT中輸入了與學(xué)生們需作答的一樣的試題，包括95道選擇題和12道問(wèn)答題，并將結(jié)果整理后與合著者發(fā)布報(bào)告“當(dāng)ChatGPT進(jìn)入法學(xué)院”。該報(bào)告于1月23日發(fā)布。

報(bào)告指出，ChatGPT最終的總體得分為“C+”，雖然這足以通過(guò)考試，但該機(jī)器人在大多數(shù)科目中都接近班級(jí)墊底，并且在涉及數(shù)學(xué)的多項(xiàng)選擇題中顯示出明顯的劣勢(shì)。蔡教授表示，“在撰寫(xiě)論文時(shí)，ChatGPT表現(xiàn)出對(duì)基本法律規(guī)則的把握，以及其一貫的扎實(shí)的組織文本和寫(xiě)作的能力?！?/p>

但在開(kāi)放式的問(wèn)題上，ChatGPT往往“難以發(fā)現(xiàn)問(wèn)題”，而這恰巧是法學(xué)院考試的核心?！翱偟膩?lái)說(shuō)，ChatGPT并不是一個(gè)可獨(dú)立完成任務(wù)的優(yōu)秀法學(xué)院學(xué)生?！辈套诤饪偨Y(jié)道。

目前，紐約和其他司法轄區(qū)已禁止在學(xué)校使用ChatGPT，但蔡宗衡認(rèn)為，這樣的聊天機(jī)器人有著其自己的優(yōu)勢(shì)，“在與人類合作后，像ChatGPT這樣的語(yǔ)言模型對(duì)參加考試的法學(xué)院學(xué)生和執(zhí)業(yè)律師非常有用?！辈套诤庵赋觯瑫r(shí)ChatGPT在被用于學(xué)術(shù)作弊時(shí)并沒(méi)有那么隱蔽，因?yàn)槠湔Z(yǔ)法過(guò)于完美且具有重復(fù)性，是可以被發(fā)現(xiàn)的。

二、對(duì)ChatGPT的現(xiàn)有管制不足

與此同時(shí)，據(jù)科技媒體CXO Today 2月8日?qǐng)?bào)道，ChatGPT還存在被黑客利用以攻擊網(wǎng)站的風(fēng)險(xiǎn)。這些黑客利用ChatGPT為自己構(gòu)建一個(gè)虛假的社交平臺(tái)賬號(hào)以發(fā)布有害信息，并誘導(dǎo)訪客進(jìn)入相關(guān)網(wǎng)站。此外，他們還利用ChatGPT發(fā)布垃圾郵件，誘騙用戶泄露個(gè)人信息，并存在為用戶推銷非法產(chǎn)品和服務(wù)的行為。

為此，ChatGPT的開(kāi)發(fā)商O(píng)penAI設(shè)置了障礙和限制，以阻止人們利用其平臺(tái)創(chuàng)建惡意內(nèi)容，比如當(dāng)收到要求編寫(xiě)用于從被黑客攻擊的設(shè)備竊取數(shù)據(jù)的代碼或制作網(wǎng)絡(luò)釣魚(yú)電子郵件時(shí)，ChatGPT會(huì)拒絕該要求并稱此類內(nèi)容是“非法、不道德且有害的”。然而，網(wǎng)絡(luò)安全公司CheckPoint Research的研究人員指出，網(wǎng)絡(luò)犯罪分子正在設(shè)法繞過(guò)ChatGPT的限制。

據(jù)悉，黑客已經(jīng)找到了一種繞過(guò)這些限制的簡(jiǎn)單方法，并在黑客論壇中銷售這種非法服務(wù)。該技術(shù)通過(guò)使用ChatGPT應(yīng)用程序的編程接口而不是基于Web(全球廣域網(wǎng))的接口，而ChatGPT會(huì)向開(kāi)發(fā)人員提供API(應(yīng)用程序接口)，以便他們將該AI機(jī)器人集成到應(yīng)用程序中。

研究人員表示，“當(dāng)前版本的OpenAI API能夠被外部應(yīng)用程序使用(例如，將OpenAI的GPT-3模型集成到社交平臺(tái)Telegram)，并且?guī)缀鯖](méi)有任何反濫用措施?！狈缸锓肿涌梢岳眠@個(gè)方法創(chuàng)建惡意內(nèi)容，利用網(wǎng)絡(luò)釣魚(yú)電子郵件和惡意代碼，而不受ChatGPT在其用戶界面設(shè)置的限制或障礙。

隨著人工智能技術(shù)的進(jìn)步，未來(lái)也可能因此出現(xiàn)更多網(wǎng)絡(luò)攻擊事件，其危害也有可能會(huì)隨之增加。科技網(wǎng)站Ars Technica指出，惡意代碼、插件和網(wǎng)絡(luò)釣魚(yú)電子郵件的生成只是使用ChatGPT打開(kāi)潘多拉魔盒的一種方式，它還有可能被利用以生成有害內(nèi)容或侵犯用戶隱私。當(dāng)然，網(wǎng)絡(luò)安全工作者也可以就此開(kāi)發(fā)檢測(cè)方法和阻止這些不安全、不道德的行為，但目前尚不清楚是否能夠在限制惡意使用該技術(shù)的同時(shí)，不影響對(duì)這項(xiàng)技術(shù)的良性使用。

雖然ChatGPT所使用的技術(shù)本身存在一定的風(fēng)險(xiǎn)，但正確使用該技術(shù)也可以有效降低網(wǎng)絡(luò)犯罪的發(fā)生。它可以快速識(shí)別出經(jīng)常出現(xiàn)在網(wǎng)絡(luò)論壇上的不良信息，如暴力、色情、欺詐，以及刻意的虛假信息等內(nèi)容。此外，ChatGPT還可以幫助監(jiān)管機(jī)構(gòu)快速搜集有關(guān)犯罪行為的有效信息，以便盡快阻止網(wǎng)絡(luò)犯罪行為。在網(wǎng)絡(luò)安全方面，ChatGPT技術(shù)可以提高網(wǎng)絡(luò)系統(tǒng)的安全性，比如幫助企業(yè)和政府等機(jī)構(gòu)識(shí)別出網(wǎng)絡(luò)上的可疑活動(dòng)、幫助監(jiān)管機(jī)構(gòu)及時(shí)阻止網(wǎng)絡(luò)攻擊等。

由于目前關(guān)于ChatGPT的法律法規(guī)尚不完善，無(wú)法很好地監(jiān)管和控制它所帶來(lái)的網(wǎng)絡(luò)犯罪行為。有專家表示，為了更好地監(jiān)管和控制ChatGPT導(dǎo)致的網(wǎng)絡(luò)犯罪，相關(guān)部門(mén)需要加強(qiáng)對(duì)ChatGPT技術(shù)的研究，制定出一套完善的法律規(guī)則，并嚴(yán)格執(zhí)行相關(guān)規(guī)定。同時(shí)，用戶們也應(yīng)該加強(qiáng)自身防范意識(shí)，養(yǎng)成良好的網(wǎng)絡(luò)使用習(xí)慣，以防止被騙，保護(hù)自身的網(wǎng)絡(luò)安全。

總結(jié)：綜上所述，ChatGPT的發(fā)展可能會(huì)帶來(lái)一些隱憂，這些隱憂可能會(huì)對(duì)用戶的隱私和安全造成威脅。為了保護(hù)用戶的權(quán)益，ChatGPT需要采取一系列措施，如加強(qiáng)用戶數(shù)據(jù)保護(hù)、加強(qiáng)信息審核、加強(qiáng)用戶管理等，以確保平臺(tái)的安全和穩(wěn)定。同時(shí)，用戶也需要提高自我保護(hù)意識(shí)，避免在ChatGPT上泄露個(gè)人信息，避免參與不良行為，以保護(hù)自己的權(quán)益。