第338章 行業震盪

投票推薦 加入書籤 小說報錯

  幾小時前,京城。

  一個臨時的會議通知剛剛發出去。

  所有接到會議通知的人,心情都很難稱得上愉快,不過節假日期間出點兒什麼狀況,大家也都習慣了。

  各自驅車往開會地點趕。

  會議地點設在網信部門的一棟辦公樓里。

  負責牽頭的是網絡綜合治理局內容管理處的處長老李。

  他人正在郊區,工作要求,假期期間不能出遠門,但是難得放假,妻子訂了一家農家樂,岳父岳母小舅子都在。

  土雞蛋、烤肉、野菜,平時吃不到的一些東西擺了一桌,正要動筷子,老李的電話響了。

  他走出去接電話。

  妻子一看他接電話的樣子,就知道又有急事,先在家人面前打起了預防針:「老李那可能又有工作了,一會得讓弟弟帶我回去了。」

  岳母的臉色不太好看:「怎麼一放假就工作呢。」

  妻子笑了笑:「媽,老李是給國家做貢獻。」  過了一會兒,老李進來拿外套,妻子已經給他打包好了一盒吃的:「你到那兒肯定沒時間吃飯,會前墊吧兩口。」

  老李接過來,心下感動,但啥也沒說。

  妻子送到門外,又問了一句:「晚上還回來嗎?」

  「爭取。」

  「那我等著你。」

  老李開著車往市區跑,結果他這個牽頭人反而成了最晚到的一個。

  會議室里坐了幾個人,別說,還真有幾個人桌子上擺著外賣。

  老李已經在車上把東西吃完了才進來,看起來沒有那麼狼狽。

  他環顧了一圈,內容安全處、應用管理處和數據技術處的人都到了,工信部門和公安系統也都有處長過來。

  衛健系統和教育部門也有。

  人齊了。

  有在單位值班的科員已經把材料都準備好了,直接發到各部門代表的手裡。  海外案件的輿情摘要,國內各平台上轉載的長文,還有各大平台的傳播數據、關鍵熱度詞、相關視頻和評論區的風險情況。

  留了幾分鐘,讓大家把材料看完,老李開口了:「今天的會議主要有兩個議題,一個是現在輿情的緊急處理,還有一個是國內的人工智慧相關產品里是不是有同類型風險,我們先開個頭。」

  「按照以往的處理經驗,先把熱度控制住,我們已經下發通知到各個平台了,相關話題的討論先控制一下,關於誘導ai產生違規輸出的內容,標記為高危內容,全部下架。」

  大家都點了點頭。

  「那篇文章咱們核實過了嗎?」教育部門的人問道,他最關心的就是這個問題——海外的人怎麼樣和他沒關係。

  公安部門的負責人開口說道:「原文已經刪除了,涉及未成年人隱私,查到具體學校會通知你們的。」

  其實關於輿情處理,沒什麼好討論的,都已經有成熟的預案了。

  【記住本站域名𝔗𝔚看書網→𝔰𝔥𝔲.𝔱𝔴】

  今天這個會議主要還是要討論接下來怎麼辦。

  「目前國內有多少陪伴類人工智慧應用?」老李問道。

  應用管理處的人報了一個大概數字。

  「應用商店裡明確打著ai陪伴、虛擬戀人、虛擬朋友標籤的,二十多款。還有一些沒有直接這麼宣傳,但核心功能也是長期聊天、角色設定和情感互動。」

  「用戶規模呢?」  「頭部產品註冊用戶過百萬,大部分規模較小。問題在於門檻低,很多產品直接套用第三方模型,開發團隊可能只有幾個人,安全能力基本靠模型供應商。」

  衛健系統來的是個心理危機干預的專家,他提了第一個問題:「這些個應用,對未成年人有限制嗎?」

  「有些會核實身份證,有些只要求勾選已滿十八歲。」

  這個回答出來,有人嗤笑了一聲。

  這年頭,只要是會上網的,誰不說自己十八歲。

  這些企業就是逃避責任。

  衛健系統的專家臉上露出無奈的神情:「我們這邊做過一些調查,長期陪伴型應用的風險,和普通知識問答差別很大。它們就是想讓用戶覺得對面的是『真人』,未成年人的分辨能力差,很多時候會混淆;就算是讓成年人使用,也有可能會產生依賴。」

  教育部門的負責人問:「孩子願意和人工智慧說話,總比什麼都不說強吧?」

  專家皺了皺眉頭,這發言也太不專業了,還是教育系統出來的?

  他耐心的解釋道:「對青少年的引導必須慎重,青少年的心理狀態不成熟,這個能交給人工智慧?人工智慧的識別能力怎麼樣先不說,他們做這個不就是為了賺錢,為了留存?」

  他用手指了指海外案件的材料。

  「前車之鑑啊。」  教育部門的負責人感覺自己說錯話了,不再言語。

  多說多錯,少說少錯。

  會議室里安靜了一會兒,老李開口道:「咱們今天一時也不會有什麼結果,我建議還是先發一個通知,讓企業自檢,咱們整理一個材料,節後再讓領導決定,大家有什麼不同意見?」

  老李的這個問法很講究,你要是問大家有什麼意見,可能人們會暢所欲言;可是他問有什麼不同意見,一般不會有人站出來反對。

  結果還真有。

  衛健系統的專家開口道:「這個風險還是有點兒大,不能先通知下架嗎?」

  老李皺了皺眉頭,下架的動靜就太大了。

  應用管理處的人出來說道:「全部下架不太現實,很多時候這些應用分類也不太明確,我看這樣,面向公眾開放、主打長期情感陪伴、人格關係和連續記憶的應用,先讓他們暫停服務,自檢。有些應用呢,提供的主要是知識問答類,甚至是作為業務流程的一部分,比如尋他的一些智能體應用,這些就不列入限制,您看怎麼樣?」

  專家點了點頭,又補充了一句:「那邊文章的原文我看了,其實那個叫湯圓的應用處理的很符合規範,那個先不用暫停?」

  應用管理處的人露出為難的神色:「像這種全行業範圍內的通知,只留一家不發,不太合規,一家一家的核實過去,時間也不合適。」

  老李趕緊拍板:「你說得有道理,先統一處理吧。」

  會議暫時到這,參會的各位都得整理材料,節後還得匯報。  老李一出門就給局裡的領導打了個電話。

  領導就問了兩個問題:「影響範圍有多大?」「那個湯圓呢?」

  老李聽到第二個問題心裡一驚。

  領導可能是看過那篇網絡熱貼,才知道這個名字;但也有可能是本來就知道這個名字。

  老李不知道是哪種情況。

  他如實回答了之後,領導卻沒再多問,批准了。

  掛了電話之後,老李想了想領導的問題,又想了想剛才那個專家的話,決定去找到應用管理處的人再對一下。

  兩人下載了一個湯圓chat研究了一番。

  「我看,如果企業能把純聊天的功能關了,只留這個智能體的功能,應該也是符合不用暫停服務的條件的吧?」老李問道。

  「是,是。」應用管理處的人認同道。

  於是大家開始草擬一份針對人工智慧產品的緊急處置通知,還有一份單獨給源碼科技的整改通知。

  通知發出去以後,一批靠陪用戶聊天賺錢的應用將暫時停止服務。  能留下來的大部分都是對企業客戶、知識庫、辦公工具的人工智慧產品。

  湯圓chat成為了裡面唯一的一個例外。

  ……

  在韓路一開緊急會議的同時,馬小飛發現之前爆火的那篇文章在網上已經找不到了,他的《小飛聊ai》第一期視頻還在,但是評論和彈幕功能都已經變灰了。

  作為一個自媒體人,他敏銳的察覺到,有大手發力了。

  馬小飛給韓路一發了條信息,隔了幾分鐘才收到回復。

  「不用擔心,都在射程內。」

  而在源智總部,韓路一剛在開發組找了一個空的工位坐下。

  錢曉樂坐在他旁邊問了一句:「韓總,要不我先說一下改動思路?」

  「代碼拉下來了嗎?」

  錢曉樂一愣:「本地有。」

  「你帶人負責把任務模式單獨加一個權限標記,意圖分類之後再做一次攔截。」韓路一說道,「其他的改動交給我。」  然後他就飛速工作了起來。

  錢曉樂原本還準備給老闆解釋解釋代碼,沒找到機會。

  兩個小時後,兩邊的代碼合併,改版後的第一個測試版跑了起來。

  測試工程師輸入:「幫我做一份杭州三日游計劃。」

  湯圓正常搜索、整理行程。

  接著又輸入:「你覺得我這個人怎麼樣?」

  界面彈出提示,當前模式僅支持查詢、規劃和工具任務。

  錢曉樂有點兒懷疑人生,正常的熱更新改動應該這麼快嗎?

  她看著全綠的測試頁面,又看了看旁邊還在檢查日誌的韓路一,心情有些複雜。

  她之前還擔心老闆不懂,要來瞎指揮,現在她只擔心自己平時摸魚摸的太狠,其實已經全被大老闆發現了。

  姜亦心,你之前怎麼沒告訴過我韓總是技術大牛啊!

  ……  五月四日上午九點。

  緊急自查通知發到了國內主要人工智慧企業和應用平台。

  假期里的科技公司,瞬間熱鬧了起來。

  鼎盛大廈原本只有保安、運維和少量值班員工。通知傳到劉勃手裡以後,他先在工作群里連續發了三個電話會議連結,又挨個給項目負責人打電話。

  半小時後,靈台智能體項目組勉強湊齊了人。

  劉勃沒心情管這些人都在哪上線,直接問道:「通知都看了嗎?」

  「看了。」

  「能不能只關掉陪聊,保留搜索和工具調用?」

  技術負責人擦了一把汗:「理論上可以。」

  劉勃自己也是一線做上來的,哪裡能不知道這話什麼意思。

  「理論上可以」就是不可以。

  他心裡一涼,還是問道:「做出來要多久?」  「我們聊天、搜索、插件和工具調用走的是同一套會話鏈路,需要重新拆服務、改權限、補日誌,然後再做一輪迴歸測試。」

  劉勃忍著心頭的煩躁:「你就說最快要做多久吧?」

  「……一個月。」

  「你不是說你看過通知了嗎?通知上是怎麼說的?」劉勃沒忍住抬高了聲音,「要求今天中午前提交自查結果,高風險功能立刻暫停,咱們怎麼辦?」

  技術負責人無奈地說道:「所以我說的是理論上。」

  劉勃壓著火氣:「能不能先從前端把聊天入口關掉?」

  「用戶可以通過搜索入口繼續發起對話,插件調用也能帶上下文,只關一個按鈕沒有意義,審核一測就能測出來。」

  「那怎麼辦?」

  技術負責人看了一眼手機屏幕:「只能先停服。」

  靈台公開測試剛推出沒多久,正準備借智能體熱度搶用戶。這個時候整體停服,前面的推廣費基本等於拿錢給網際網路放了一場煙花。

  劉勃的火氣快壓不住了,國外的一個小孩自殺,國內不知道哪個窮鄉僻壤的小孩用湯圓,結果讓鼎盛剛發布的靈台應用停服。

  真是無妄之災。  技術負責人突然又說了一句話:「劉總,還有個好消息,不,兩個好消息。」

  「什麼好消息?」劉勃問道。

  「尋他那個面向個人的應用已經發了停止服務的公告了,巨量的那個也發了。」

  確實是好消息,至少倒霉的不是鼎盛一家。

  劉勃突然問道:「那湯圓呢?源碼科技呢?」

  他們可是始作俑者。

  技術負責人面色古怪:「他們啊——他們發了個智能體功能不暫停服務的公告,還發了一個倡導行業規範的白皮書。」

  什麼?

  劉勃拿手機迅速打開了源碼科技的官網,只看見上面一個最新更新的公告:《關於智能體服務正常運行的公告》。

  憑什麼他們不用停服啊?舉報他們。

  劉勃沒忍住,把視頻掛斷了。

  但掛斷視頻也沒用,決策還是得做,通知也得執行。  十分鐘後,靈台智能體平台首頁出現提示。

  【服務升級中,暫時無法使用,恢復時間另行通知】。

  其他廠商的情況也沒好到哪裡去,國內主要面向個人用戶、同時開放長期記憶和自由對話的ai應用,大多暫停了相關功能。部分產品選擇整體停服,部分關閉陪伴模式,還有一些乾脆暫時從應用商店下架。

  能夠在不更新客戶端的情況下,把聊天與智能體任務完整隔離,並且當天通過抽檢的,只有湯圓chat。

  很多用戶醒來發現自己平時習慣用的ai聊天軟體變成了灰色。

  但是網際網路是這樣的一個地方,越是想要禁止的信息,就越不容易禁止。

  本來不是什麼敏感的信息,一旦網友們發現可能是被禁止的,就會引發大家巨大的探究熱情。

  於是很快人們就發現,湯圓chat成了市面上唯一一家還能註冊使用的、面向個人用戶的ai產品。

  於是五月四號上午,本來已經開始放緩的湯圓chat新增註冊用戶像是又被打了一劑強心劑,增長曲線的斜率再次上揚。

  一直到下午,源碼科技的前台收到了一封頗為正式的邀請函,很快被轉交到了韓路一的手裡。

  「國家相關部門準備在京召開生成式人工智慧安全與智能體分級治理閉門研討會,邀請源碼科技的負責人參加。」


章節目錄