《WHATs NEXT》遠傳電信資訊暨數位轉型科技群執行副總經理胡德民:以遠傳運用生成式AI為例,分享加速企業創新轉型實績
ernest
2023-07-20 15:30

「現代企業積極展開雙軸轉型,數位化與淨零期望達到雙轉型的交叉路口,凸顯現代資訊長的進退兩難。企業在運用AI的過程,如何兼顧創新與穩定?今天以遠傳的經驗,分享OpenAI怎麼成為驅動第二成長曲線的重要角色。」遠傳電信資訊暨數位轉型科技群執行副總經理胡德民,在第八屆《WHATs NEXT》未來科技產業高峰會中表示。

當科技大幅降低成本、對接商業場景來擴充AI的應用領域,觀察OpenAI最大的價值就是實現「說人話」。

胡德民首先科普什麼是生成式人工智慧(Generative AI)?簡言之,生成式人工智慧是計算機科學的一個分支,涉及無監督和半監督演算法,使計算機能使用以前創建的內容創建新內容,例如文本、音訊、視頻、圖像和代碼,以回應簡短的提示。

值得注意的是,ChatGPT是由 OpenAI 開發的聊天機器人,於 2022  11  30 日推出,短短一周內就突破一百萬使用者。ChatGPT之所以受到如此大關注,一來是OpenAI Microsoft 獲得了 10 億美元挹注;二來是ChatGPT建立在OpenAIGPT-3.5系列大型語言模型(LLM)之上,通過監督和強化學習技術,讓外界驚艷什麼問題都可以詢問ChatGPT

由此可見,生成式人工智慧的應用優勢明顯包含幾個構面:提高勞動生產率、個人化使用者體驗、加速研發、創新的商業模式。其中,綜觀生成式模型運用特性,交叉融合後創造更多使用價值,包含內容生成、摘要總結、程式生成、語意搜尋等主要服務。

如果進一步混合多種模型使用模式,還可以創造更多商業場景。其一是流程自動化,透過搜尋結構化、非結構化資料,升成程式碼查詢資料模型,生成內容回應使用者。第二是360度觀察客戶圖像,透過及時彙總客戶查詢和趨勢、搜尋內部資料,生成內容實現客製化客戶服務。第三,完整客戶服務流程,提供客戶對話分類、情緒分析、實體提取、彙總記錄和電子郵件/生成客戶回覆。

了解生成式人工智慧所帶來的龐大價值之後,對於企業決策者接著會詢問,自家公司如何搭上這波AI浪潮?胡德民以遠傳集團為例,針對核心IT團隊專注經營本業,利用大數據完成治理,從2018年開始投入AI佈局,展開跟刑事警察局合作電信打詐。

另一方面,遠傳集團手上握有700多萬用戶大數據,推動新經濟團隊培養第二成長曲線。其中最關鍵的策略,就是運用大數據促使孤島轉型中台、人工智慧數據賦能、以及借助物聯網創造智慧節能創造價值。

胡德民列舉遠傳在AI 應用成功案例,從內部客戶的風險管控,到外部企業客戶的推廣協作都包含。例如電信大數據打擊詐騙電話、遠傳應用Azure實踐電信帳單小額支付風險管理、以及高雄智慧治安預警服務。

另外,遠傳旗下friDay影音平台運用OpenAI智慧助理,形成一鍵生成推薦、打字獲得推薦等新服務。前者是從用戶最近看的影片跟用戶現在時段區間,可以一鍵就得到影片推薦。後者是用戶可以互動隨意打字獲得推薦,解析用戶語意從影音700+標籤挑選適合的影片。

結果發現,生成式片單推薦的服務,在短時間創造1.7萬次詢問,並且推薦後點擊片單的機會,高於個人推薦達8倍之多。

除了影音內容,在電商銷售方面,遠傳friDay購物運用Azure OpenAI加速商品上架效率。透過上稿用Azure OpenAI寫草稿,自動生成文案草稿,節省商品 PM上稿時間。另一是概念式搜尋,結合 CatGPT 及獨特生成式 AI,例如下雨情境詢問要帶什麼,系統搜尋結果不只推薦雨具,還會有手機防水袋。

上述的應用可以落地,就是立基於打造AI導向的企業IT能力。遠傳目前有40多個核心系統,由於數據分散在不同的架構、不同的中繼資料、不同的資料關係,而且分析需要在標準化上付出巨大的努力,加上套用大規模且即時的MLAI既耗時又昂貴。

於是,遠傳打造雲端數據中台,解決資料存儲在內部和外部孤島問題,以統一的方式來描述和理解資料的難題。有了堅實的數據中台底層架構之後,如何在挖掘數據的價值,胡德民分享遠傳在雲端數據力的佈局,推動AI三階段。

第一階段是探知從財報、儀表板來探索結果;第二階段達到感知,即時收集各種像是銷售、碳排等數據;第三階段是預知,能預測性維護、落實風險管理。

何謂好的數位轉型?胡德民最後摘要幾個關鍵心法,包含「賦能同仁、優化流程、創新服務」,藉此形成新的商業模式獲得更多用戶青睞,強化品牌競爭力。