作為信息社會(huì)的革命性技術(shù)，人工智能（Artificial Intelligence）可謂智能化信息社會(huì)的核心技術(shù)，具有廣泛的應(yīng)用前景。
當(dāng)前，我們看到，隨著AI技術(shù)在人機(jī)對(duì)話、人形機(jī)器人、自動(dòng)駕駛、智能制造等領(lǐng)域的快速推廣和應(yīng)用，相關(guān)安全問題也愈加凸顯，亟須予以高度重視。
人機(jī)對(duì)話
以ChatGPT為代表的基于生成式預(yù)訓(xùn)練模型（GPT）的對(duì)話型人工智能能夠模擬人類對(duì)話，并應(yīng)用于自動(dòng)化寫作、智能客服等多個(gè)領(lǐng)域。隨著自然語言處理技術(shù)的進(jìn)步，ChatGPT在文本生成、內(nèi)容創(chuàng)作等方面展現(xiàn)出強(qiáng)大能力，已成為AI技術(shù)的一個(gè)重要分支。
安全隱患：由于主要通過交互問答開展工作，ChatGPT存儲(chǔ)并處理了大量用戶數(shù)據(jù)，其中可能包含國家秘密、敏感信息，一旦被黑客竊取或系統(tǒng)遭受攻擊，數(shù)據(jù)安全將受到嚴(yán)重威脅。此外，ChatGPT還可能被用于生成虛假信息或進(jìn)行社交工程攻擊，攻擊形式包括仿冒電子郵件、虛假新聞等，會(huì)給個(gè)人、企業(yè)和社會(huì)安全帶來極大隱患。
人形機(jī)器人
人形機(jī)器人是具有人類形態(tài)、具備一定程度智能的機(jī)器設(shè)備，能夠模擬人類的行為與動(dòng)作，在服務(wù)行業(yè)、醫(yī)療輔助、教育陪伴等領(lǐng)域有著廣泛的應(yīng)用前景。
安全隱患：人形機(jī)器人在執(zhí)行任務(wù)時(shí)需要獲取和處理大量用戶數(shù)據(jù)，可能涉及個(gè)人隱私、健康狀況等敏感信息，如果這些數(shù)據(jù)被黑客截獲，會(huì)導(dǎo)致用戶信息的泄露。此外，技術(shù)上的不成熟也將增加系統(tǒng)遭受攻擊的風(fēng)險(xiǎn)。
自動(dòng)駕駛
當(dāng)前，很多汽車廠家和互聯(lián)網(wǎng)公司相繼推出自動(dòng)駕駛汽車以及智能交通系統(tǒng)?？梢灶A(yù)見，在人工智能控制交通的時(shí)代，交通運(yùn)行效率會(huì)得到顯著優(yōu)化。在不遠(yuǎn)的將來，也許只有賽車手和發(fā)燒友才會(huì)駕駛汽車，交通事故則可能被系統(tǒng)事故所替代。
安全隱患：自動(dòng)駕駛汽車內(nèi)部往往集成了復(fù)雜的電子控制系統(tǒng)、傳感器網(wǎng)絡(luò)以及車聯(lián)網(wǎng)通信技術(shù)，黑客可以從智能汽車端、移動(dòng)應(yīng)用端和云平臺(tái)以及三者交互的通信管道實(shí)施攻擊，目前已經(jīng)出現(xiàn)黑客通過盜取 App 賬號(hào)密碼來控制自動(dòng)駕駛汽車的案例。
智能制造
通過人工智能技術(shù)對(duì)工業(yè)大數(shù)據(jù)進(jìn)行分析處理，可以有效提高生產(chǎn)效率，比如，Google 將機(jī)器學(xué)習(xí)技術(shù)應(yīng)用于數(shù)據(jù)處理，使用神經(jīng)網(wǎng)絡(luò)控制服務(wù)器等設(shè)備以降低耗電量，提升電力使用效率。
安全隱患：工業(yè)大數(shù)據(jù)是由生產(chǎn)不同階段的大量零散數(shù)據(jù)組成，數(shù)據(jù)間存在同步問題，因此，黑客對(duì)數(shù)據(jù)的任何一點(diǎn)入侵篡改都會(huì)使人工智能計(jì)算產(chǎn)生偏差，從而對(duì)企業(yè)、對(duì)社會(huì)造成巨大損害。
長遠(yuǎn)展望人工智能在信息社會(huì)的發(fā)展，基于人工智能的社會(huì)精細(xì)化管理將是未來社會(huì)的基本管理模式，也許未來會(huì)出現(xiàn)人工智能控制人類、威脅人類安全的風(fēng)險(xiǎn)隱患。技術(shù)就像一枚硬幣的兩面，發(fā)明一項(xiàng)技術(shù)需要聰明，駕馭一項(xiàng)技術(shù)則需要智慧。面對(duì)人工智能，確實(shí)需要人類有足夠的智慧去利用和駕馭，從而在確保安全的前提下便利人類生活和社會(huì)發(fā)展。
中共甘肅省委政法委員會(huì)主辦
您是第 位訪客
地址:蘭州市城關(guān)區(qū)南昌路1648號(hào)
