當(dāng)前，新一代人工智能技術(shù)正加速應(yīng)用到政治、經(jīng)濟(jì)、社會等領(lǐng)域的方方面面，在推動經(jīng)濟(jì)社會更加高效智能運(yùn)行的同時，也產(chǎn)生了復(fù)雜多元的倫理法律問題。比如，人們開始遭遇“大數(shù)據(jù)殺熟”“信息繭房”等新形式的不公、偏見或歧視，人臉識別引發(fā)道德倫理擔(dān)憂，自動駕駛產(chǎn)生決策倫理問題，智能音箱等智能助手等的滲透也可能深刻改變傳統(tǒng)的人際關(guān)系。
中國在新一輪人工智能浪潮伊始，國家就高度重視人工智能倫理與法規(guī)問題，將建立健全保障人工智能發(fā)展的法律法規(guī)和制度體系作為國家人工智能規(guī)劃的重點(diǎn)任務(wù)。2017年國家發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確提出，要加強(qiáng)人工智能相關(guān)法律、倫理和社會問題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架。2019年6月，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動指南，為我國國內(nèi)各相關(guān)主體開展人工智能治理，提供了原則性指導(dǎo)。在規(guī)劃實(shí)施層面，北京、上海、濟(jì)南、天津、重慶等已批復(fù)的13個國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)，正在深入探索引領(lǐng)人工智能健康發(fā)展的治理規(guī)則。
2020年12月23日，十三屆全國政協(xié)第45次雙周協(xié)商座談會在北京召開，中共中央政治局常委、全國政協(xié)主席汪洋主持會議。會議圍繞“人工智能發(fā)展中的科技倫理與法律問題”協(xié)商議政。汪洋強(qiáng)調(diào)，要深入學(xué)習(xí)領(lǐng)會習(xí)近平總書記關(guān)于推動人工智能健康發(fā)展的重要論述，牢牢把握人工智能對建設(shè)科技強(qiáng)國和實(shí)施創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略的重大機(jī)遇，歷史、辯證、全面看待人工智能發(fā)展中的科技倫理與法律問題，堅持統(tǒng)籌發(fā)展和安全的原則，探索構(gòu)建符合中國國情的人工智能治理框架，維護(hù)人民利益和國家安全。
神思電子作為濟(jì)南市本土企業(yè)，依托在身份識別以及人工智能領(lǐng)域多年的積累，已經(jīng)取得了諸多先進(jìn)技術(shù)成果，在行業(yè)內(nèi)具備了一定的影響力。濟(jì)南市作為山東省中心城市，在人工智能工作方面已走在全國前列，與上海、深圳共同成為全國三家同時建設(shè)國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)、人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)的城市。在山東省集中優(yōu)勢資源，大力支持濟(jì)南建設(shè)國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)和國家級人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)的政策引導(dǎo)下，神思電子在繼續(xù)遵循“以人為本，科技創(chuàng)新”、“品質(zhì)是金，服務(wù)至上”、“換位思考，合作共贏”的經(jīng)營理念基礎(chǔ)上，發(fā)布《神思人工智能研發(fā)與應(yīng)用準(zhǔn)則》（以下簡稱《準(zhǔn)則》），以更高的自律要求，履行企業(yè)責(zé)任，以身示范，推動人工智能技術(shù)與應(yīng)用的健康發(fā)展?！稖?zhǔn)則》圍繞“有益、尊重、責(zé)任、公平、可知、安全、輔助、協(xié)同”八大方面，對人工智能健康有序發(fā)展作出明確規(guī)范。下一步，神思電子將在濟(jì)南市科技局統(tǒng)籌推進(jìn)國家試驗區(qū)建設(shè)過程中，作為典型人工智能企業(yè)，進(jìn)一步發(fā)揮技術(shù)優(yōu)勢，承擔(dān)國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)人工智能社會實(shí)驗建設(shè)，并堅持《準(zhǔn)則》內(nèi)容，確保人工智能能夠在可控、安全、有序范圍內(nèi)健康持續(xù)發(fā)展。
神思電子技術(shù)股份有限公司（SZ:300479）是濟(jì)南市第一家創(chuàng)業(yè)板上市公司，2015年登陸資本市場，是國內(nèi)領(lǐng)先的身份識別解決方案的提供商和服務(wù)商，山東省新一代信息技術(shù)領(lǐng)軍企業(yè)，目前市值近30億元?，F(xiàn)有員工總?cè)藬?shù)633人（研發(fā)人員占比61%），在北京、天津、福州設(shè)有分支機(jī)構(gòu)，現(xiàn)有七個省級研發(fā)平臺，近三年獲得發(fā)改、工信、科技部門省部級重點(diǎn)研發(fā)計劃、重大工程支持項目12項，近四年研發(fā)/營業(yè)額占比均超過12%。神思電子現(xiàn)有授權(quán)專利139項（發(fā)明專利44項），受理中發(fā)明專利79項，現(xiàn)有軟著322項，其中人工智能相關(guān)授權(quán)專利66項（發(fā)明專利31項），受理中發(fā)明專利79項，軟著118項。在標(biāo)準(zhǔn)引領(lǐng)方面，神思電子是全國信標(biāo)委人工智能分委會委員單位以及山東省人工智能標(biāo)準(zhǔn)化技術(shù)委員會副主任委員單位。
神思電子的身份識別產(chǎn)品遍布中國大陸所有省份，每六臺身份識別設(shè)備就有至少一臺是神思電子的產(chǎn)品。2016年神思電子確定“從身份識別到智能認(rèn)知”的戰(zhàn)略發(fā)展目標(biāo)后，經(jīng)過四年的不懈努力和持續(xù)高強(qiáng)度研發(fā)投入，初步完成了從身份識別設(shè)備供應(yīng)商向人工智能解決方案提供商的戰(zhàn)略升級。公司研發(fā)的視頻分析技術(shù)，基于神思云腦的智慧營業(yè)廳、智慧餐飲、智慧園區(qū)、人工智能教室等人工智能云服務(wù)方案及多項AI產(chǎn)品已進(jìn)入商用復(fù)制階段。
作為山東省人工智能協(xié)會副會長及濟(jì)南市智能創(chuàng)新產(chǎn)業(yè)發(fā)展學(xué)會發(fā)起人/理事長單位，神思電子在自身加速研究人工智能技術(shù)、拓展應(yīng)用場景的同時，也肩負(fù)著合理應(yīng)用這項新技術(shù)的社會責(zé)任。在近年技術(shù)研究和應(yīng)用場景落地的實(shí)踐經(jīng)驗基礎(chǔ)上，研究形成《神思人工智能研發(fā)與應(yīng)用準(zhǔn)則》。借此，不僅能更好地規(guī)范企業(yè)內(nèi)部人工智能技術(shù)研發(fā)和應(yīng)用行為，也能夠?qū)ι綎|省內(nèi)從事人工智能相關(guān)技術(shù)研究和應(yīng)用的企業(yè)與科研機(jī)構(gòu)產(chǎn)生示范作用，引領(lǐng)和帶動其使用更加嚴(yán)格的原則和標(biāo)準(zhǔn)來規(guī)范人工智能技術(shù)產(chǎn)品研發(fā)與應(yīng)用行為，促進(jìn)科技向善。
以下為《準(zhǔn)則》全文：
《神思人工智能研發(fā)與應(yīng)用準(zhǔn)則》
為踐行國家促進(jìn)人工智能健康發(fā)展的主旨精神，回應(yīng)社會各界有關(guān)人工智能企業(yè)的倫理關(guān)切，神思電子以“有益”和“尊重”為目標(biāo)和價值導(dǎo)向，堅持打造“負(fù)責(zé)任”“公平”“可知”和“安全”的人工智能產(chǎn)品與服務(wù)，實(shí)現(xiàn)對人類的智能輔助，促進(jìn)人機(jī)協(xié)同的智能社會。為此，神思電子在人工智能技術(shù)的研發(fā)與應(yīng)用中遵循如下八項準(zhǔn)則：
（1）有益：始終遵循需求導(dǎo)向，以滿足數(shù)字時代的生產(chǎn)生活服務(wù)需求為目標(biāo)，為客戶及其他利益相關(guān)主體創(chuàng)造對社會產(chǎn)生積極影響的人工智能產(chǎn)品或服務(wù)，促進(jìn)人的全面發(fā)展、經(jīng)濟(jì)社會進(jìn)步和生態(tài)可持續(xù)。
（2）尊重：應(yīng)充分尊重人的尊嚴(yán)，尤其要重視維護(hù)老幼殘弱等特殊群體的尊嚴(yán)與特殊權(quán)利。尊重并保障個人隱私，為用戶行使知情同意等權(quán)利提供技術(shù)便利與支持。尊重人類選擇自由，為用戶自由選擇接受或拒絕人工智能服務(wù)提供簡便易懂、反應(yīng)敏捷的操作界面，促進(jìn)人機(jī)協(xié)同。
（3）責(zé)任：應(yīng)以踐行道德責(zé)任和社會責(zé)任為前提，遵守人類價值觀和倫理道德，強(qiáng)調(diào)技術(shù)解決方案對用戶、對社會、對資源環(huán)境的責(zé)任擔(dān)當(dāng)，努力實(shí)現(xiàn)責(zé)任可回溯，保障用戶合法權(quán)益、增進(jìn)社會安定和諧、確保資源節(jié)約和環(huán)境友好。
（4）公平：應(yīng)以積極的方式輔助人類，考慮客戶的年齡、性別、民族、宗教等亞種群多樣性，在設(shè)計、實(shí)施、測試和應(yīng)用的所有階段，應(yīng)將公平和平等原則嵌入到數(shù)據(jù)集和算法中，促進(jìn)公平和多樣性。積極推動并參與人工智能知識科普活動，提升全社會的人工智能認(rèn)知，讓公眾獲得對人工智能產(chǎn)品和服務(wù)的平等使用權(quán)，促進(jìn)公平公正氛圍和環(huán)境的形成。
（5）可知：應(yīng)開發(fā)透明、可解釋、可理解的人工智能系統(tǒng)，對于系統(tǒng)的算法決策邏輯、數(shù)據(jù)構(gòu)成、系統(tǒng)開發(fā)者和技術(shù)實(shí)施者意圖及行為結(jié)果等，能夠準(zhǔn)確描述、監(jiān)督和再現(xiàn)，不用高深的專業(yè)術(shù)語來包裝產(chǎn)品方案和技術(shù)，通過功能設(shè)計促進(jìn)服務(wù)對象參與選擇和反饋，讓服務(wù)對象理解人工智能基本工作原理和邏輯。
（6）安全： 努力實(shí)現(xiàn)人工智能系統(tǒng)內(nèi)部安全和外部安全的統(tǒng)一。嚴(yán)格控制數(shù)據(jù)質(zhì)量，嚴(yán)謹(jǐn)算法體系，訓(xùn)練和學(xué)習(xí)平臺應(yīng)該建立在可靠的信息安全架構(gòu)下，能夠持續(xù)優(yōu)化和改進(jìn)，并且獲得專業(yè)機(jī)構(gòu)的評估和認(rèn)可，確保人工智能系統(tǒng)的魯棒性和可靠性。完善數(shù)據(jù)管理規(guī)范和風(fēng)險防控體系，促進(jìn)可審核和可驗證的人工智能系統(tǒng)開發(fā)，確保信息和數(shù)據(jù)安全。
（7）輔助：人工智能系統(tǒng)的功能應(yīng)聚焦于智能輔助，助力人類體力解放、智力增強(qiáng)和精神放松，拓展人類能力和創(chuàng)造性，應(yīng)盡力防止人類過度依賴人工智能，并允許人類自主判斷和選擇如何使用或退出智能輔助模式。
（8）協(xié)同： 人工智能時代的人和機(jī)器的關(guān)系不是非此即彼， 應(yīng)是通過不斷的人機(jī)互動實(shí)現(xiàn)人機(jī)協(xié)關(guān)系同。為此，應(yīng)開發(fā)界面友好，便于人機(jī)交互和模式切換的人工智能系統(tǒng)。
