人工智慧(AI)在過去一年來歷經高速發展,消費者張開雙臂擁抱生成式 AI,開啟人人自學 AI 的時代。不過,這樣的熱潮轉移到企業端,狀況似乎大不相同。
矽谷創投 Menlo Ventures 在 2023 年發表《企業中的生成式 AI 現狀》,報告中提到,2023 年企業在生成式 AI 上花費了約 25 億美元,推動了 GitHub Copilot 和 Hugging Face 等工具的興起。但市場仍處於萌芽狀態。如今,企業對生成式人工智慧的投資仍佔所有雲支出的不到 1%。這代表,儘管消費者迅速接受生成式 AI,但企業的採用速度仍然緩慢,就像早期導入雲端一樣。
鏡頭轉回台灣。微軟發表《微軟工作趨勢指數》報告指出,雖然 79% 的企業領導者認為 AI 的導入對於保持競爭力很重要,但有 59% 的企業領導者擔心無法量化 AI 所帶來的生產力,更有六成表示公司仍缺乏導入 AI 的願景和計劃。
而這個缺口,正是 AI 轉型解決方案供應商iKala 瞄準的大市場。
「生成式 AI 在企業端怎麼應用?我認為,知識管理是一個大題目。」 iKala 共同創辦人暨執行長程世嘉(Sega Cheng)談到近期 AI 的發展指出,過去多數企業因為成本考量、成效無法衡量等原因,導致在做數位轉型時躊躇不前。「企業花時間與人力整理數據、『拉資料管線』之後,卻看不到實際的應用場景,當然會懷疑數位轉型到底值不值得做。」
然而,這件事,在生成式 AI 出現之後,有了轉機。程世嘉說,「生成式 AI 出現之後,資料管線明顯有了出口,那就是知識管理系統(Knowledge Management System)。」
知識管理:生成式 AI 在企業端的關鍵應用
2022 年底,生成式 AI 橫空出世,AI 變成了人人必學的課題,而企業也逐漸看到 AI 應用的曙光。「過去一年來,企業端對於知識管理的需求提升最明顯,我們常被問到知識管理怎麼做?」程世嘉直言,在生成式 AI 出現之後,業界對於數據的重視正在快速提高,「把企業的專屬 know-how 放到語言模型裡,再結合 AI 搜尋,體驗將會非常好。」
所謂的知識管理系統,可以完善紀錄、累積企業內部的專屬知識,並轉化為有助於應對市場變化的重要資產。而知識管理系統對組織來說,是可以共享的整體資源,可在決策制定、問題解決、未來創新等面向幫助企業。善用公司的專屬知識,對於提升競爭力至關重要。
然而,過去許多企業在建立知識管理系統時,最常碰到幾項實際的問題。最大的問題是,數據散落各處、「資料管線」根本沒有建立起來。
研調機構 Gartner 在 2023 年發布的調查指出,知識工作者平均使用的應用程式數量為 11 個,有四成的工作者使用的應用程式數量,甚至遠高於平均;更有 47% 的工作者表示,常常找不到能讓他們有效完成工作的數據或訊息。「資料的管線沒有拉好,當然就沒有後面的 AI 應用。」,程世嘉說。
第二,就算企業內部的資料庫成功建立起來了,但使用者體驗差、系統難以上手,是阻礙大家使用的原因。
程世嘉表示,「過去用過圖書館系統就知道,要查個資料都非常困難,這樣一來就算資料數位化了,但仍然沒人願意用。」
過去,企業做知識管理系統,因為缺乏可以互動的搜尋引擎,導致使用不流暢;另外,這些知識管理系統,也需要持續的支持與培訓,來幫助員工熟悉系統。少了這些支持,將導致員工不知道如何有效使用這些工具。
AI 助攻!每個企業都該打造自己的「企業大腦」
AI 無疑是一場大型軍備競賽,投資機構 Bernstein 最新報告預測,今年上半年,亞馬遜、微軟、谷歌、Meta、蘋果等科技大廠的資本支出已經達到史無前例的 2,000 億美元,接下來將持續擴大,且絕大部分集中在資料中心、晶片、伺服器或訓練生成式 AI 模型相關的設備上。
程世嘉說,企業若要趕上這場 AI 革命,不應該跳下去自己做 AI 模型訓練,因為成本過於高昂,企業現在最應該做的,是在各個基礎大型語言模型上,注入自己的獨門資料,將企業內部的資訊組織清楚,再運用生成式 AI 搭配垂直搜尋,「讓知識管理這個領域重新活躍起來。」
他比喻,若 ChatGPT 是「通才」,那企業打造的垂直型 AI 就是「專才」,而這樣的專才,就像是公司內部的「企業大腦」,將可幫助企業在 AI 時代先行部署、掌握先機。
有了生成式 AI ,企業的知識管理系統就如同有了一個超強的應用場景,系統將可以從大量非結構化的資料中,找出有關的訊息,並結合這些訊息生成為有用的輸出,員工僅需輕鬆透過口語問答就能找到資料。
程世嘉說,「生成式 AI 的出現,就像過去的資料管線突然有了出水口。而企業內部的垂直搜尋就是最有效的應用場景。當自然語言介面發達,AI 又認得企業內部的專屬資料庫,將會掀起一場全新的典範轉移。」
KOL Radar:AI 驅動的知識管理範例
知識管理,是 iKala 接下來瞄準的市場缺口。但實際上,早在 2018 年 iKala 推出「網紅雷達」(KOL Radar)時,就運用了「搜尋+AI」的架構,這就是知識管理的應用。
程世嘉解釋,KOL Radar 收集全球網紅資料,注入超過 140 個語言模型,有的分析觀眾情緒與喜好,有的貼標籤、分析顧客畫像。「這 140 個模型各司其職,像是不同專家共同決策;也像是廚房內有主廚、下手,最後組合成色香味俱全的套餐。」
這也是大語言模型中的「專家混合模型」(MoE)。MoE 由多個小模型(專家)組成,每個專家專精在特定任務上,系統會評估哪個專家最適合解答,提高效率與精確度,節省資源與計算時間。
以 iKala 為例,假設品牌主找網紅銷售咖啡,透過關鍵字搜尋可能只能找到曾代言過咖啡的網紅。「但 AI 不僅會搜尋,還會聯想,找到更適合代言『生活風格』的網紅,範圍更廣、受眾更精準。」
「網紅」是垂直搜尋領域,不只是找資訊,還要找人。這些人有不同的受眾、特性、喜好,這些都隨時間改變。「咖啡連結的是生活風格,AI 產生出知識圖譜,超越關鍵字搜尋。」程世嘉表示,善用 AI 的分析與理解能力,讓搜尋結果更精準,這與企業內部的知識管理一致,也是未來企業應導入的方向。
經過多年累積,KOL Radar 目前擁有超過 300 萬筆跨國網紅名單,以及破億筆社群平台的即時數據,是亞洲最大的網紅資料庫,服務超過 5 萬個品牌主,台灣市佔率超過七成。程世嘉表示,KOL Radar 是企業知識管理系統的最佳展示。
13 年「老創」,仍保有新創的靈活與敏捷
程世嘉自台大和美國史丹佛大學碩士畢業後,進入 Google 擔任工程師,也是台灣首位登上 Google I/O 開發者大會的講者。2011 年,他毅然放棄穩定的企業工作,創立 iKala,如今已邁入第 13 年。若以年齡來看,iKala 是最成熟的老創,卻仍然保有新創的靈活與敏捷,與時俱進。從最初的線上卡拉 OK,到雲端業務,再發展出網紅雷達、CDP 等行銷科技,現在則緊抓 AI 浪潮,在創業路上的每一個彎道,iKala 都轉得漂亮。
近期 iKala 獲得中華電信領投逾 2000 萬美元 B+ 輪融資,雙方將展開戰略合作,幫助更多企業實現 AI 轉型;網紅業務 KOL Radar 也已經打進日本市場,成長快速。每一項業務在 iKala 手上,都取得了顯著成績。
問及每個轉折點背後的決策,程世嘉謙虛笑道:「這些決定背後最大的考量,就是要『活下去』。」他坦言,創業路上的每個轉折點都至關重要,一不小心就可能會失敗,領導團隊需要有強大的心理素質和意志力。
展望下一個十年,程世嘉說,AI 將為企業的營運效率帶來新的顛覆,iKala 接下來將成為企業運用 AI 的領導者,幫助企業在 AI 浪潮中抓住商機,提高生產力與加速成長。