APP下载

【玉山AI力关键人物:玉山金控科技长张智星】玉山科技长的3大AI核心战略

消息来源:baojiabao.com 作者: 发布时间:2024-10-07

报价宝综合消息【玉山AI力关键人物:玉山金控科技长张智星】玉山科技长的3大AI核心战略

玉山金控科技长张智星 (图片来源/玉山金控)

玉山AI应用如何成功遍地开花?

靠“AI大脑和IT神经系统”是简答,背后严密的中长期策略规划才是详解。玉山金控科技长张智星,就是关键领军人物。这位带头跑的指挥官,如何思考玉山AI的发展方向?如何进一步运用玉山科技实力,来发挥AI服务效益?

他列出了三项重要原则,来说明玉山AI战略。

AI战略一:深化创新

首先是深化创新。“要不断创新、深化创新,”张智星解释,不只技术要创新、服务要创新、平台要创新,还要“第一层次、第二层次和第三层次往下深化创新。”

比如,玉山在对客户服务的自然语言处理(NLP)策略上,就先从文字聊天机器人做起。他们在2017年联手IBM,共同打造玉山小i随身金融顾问,来提供外汇咨询、信用卡推荐和房贷利率评估等三大金融问答服务。

这也是玉山第一次大动作将AI嵌入顾客服务,让使用者透过Line和脸书Messenger就能询问小i相关问题、得到解答。

再来,玉山进一步深化NLP客服应用,透过客服语音分析推动数位导流。他们建立一套NLP模型,来分析每通客服通话、找出顾客问题,并以简讯发送相关连结和使用教学,来给顾客参考。

甚至,玉山还进一步走向语音生成,开发一套语音引擎,让自动拨号系统能以语音方式提供顾客一次性密码(OTP)。接下来,他们要以此为基础,继续扩展语音服务种类。

玉山NLP应用一路走来,先从容易入门的聊天机器人试水温,再投入NLP技术研究,现在甚至朝NLP中难度更高的自然语言生成(NLG)迈进,在在说明玉山AI深化创新的例子。

AI战略二:兼具稳定和韧性

玉山科技长的第二个AI战略目标,是“稳定和韧性”。

“金融是受高度监管的单位,因此要确保AI模型的稳定和韧性。”张智星举例,这次台湾疫情爆发,全国进入三级警戒,民众长时间在家、刷卡习惯改变,诈骗手法也跟着更新,进而影响玉山自行开发的信用卡盗刷侦测模型准确度。

他甚至用“震撼”来形容疫情对模型的冲击。“以前,我们从不认为模型会出什么问题,”张智星表示,信用卡盗刷侦测模型上线后,表现一直很稳定,直到今年疫情爆发、业务单位告知模型效度不如以往后,他与智能金融处团队立刻着手处理。

“这是事先没预料到的,世界在变化,我们才跟着感受到它的变化。”这次震撼教育,让玉山意识到大局势对模型的影响有多大。“若系统抓不到趋势,就不会稳定,”张智星指出,智金处从这次事件中,了解到有些模型得随时抓取新资料、重新训练,再重新上线,以维持准确性。

他也举例,这次疫情加剧,玉山短短几天涌入大量劳工纾困专案,是去年的十倍。为快速消化这些爆量申请,团队调整先前开发的RPA和AI,来自动化文件审核流程。

但也不是所有模型都得时时更新。以票据手写辨识模型为例,这个模型的主要任务是辨识支票手写金额,但手写风格变化缓慢,再加上玉山开发模型时,就已收集大量、多元的资料来训练模型,因此只要适时调整即可。

张智星也补充,稳定和韧性不只适用于模型,还适用于开发AI用的平台工具。智金处拥有100多名人力,其中50人负责开发、50人负责维运技术平台,这个技术平台,包括了玉山用来开发新模型的AI研发云,以及将模型串接到业务单位的MLaaS平台。

因为看重稳定和韧性,玉山今年也大力推动MLOps,来加强AI模型上线后的维运管理,比如自动触发模型重新训练、重新上下架等。

AI战略三:平台式的落地

玉山科技长的第三个AI战略原则,则是平台式的落地。

“有好的深化创新、稳定和韧性,下一步就是如何落地、找到能发挥的平台。”张智星这句话的关键有两个,一个是利用平台开发出稳定的AI模型,另一个是将这些模型落地到业务场景平台,来维持源源不绝的AI开发和落地,长长久久地进行。

在平台部分,玉山先是建立了AI研发云和MLaaS平台两大工具,来开发、串接AI模型。以AI研发云来说,它以世界主流的底层开源框架Kubernetes(即K8s)为基础,再以网页界面搭配Jupyter Notebook开发环境,来提供给资料科学家使用。

AI研发云开发的模型,经测试稳定后,就会打包、部署到MLaaS平台,以API呼叫方式,来与业管系统介接。这么做的优点是,系统与系统间的边界非常清楚,业务逻辑保留在前端系统,后端模型可自行更新,不必迁就前端系统。

有了开发、串接的技术平台,接下来,就是利用这些AI模型,来精进业务平台服务,达到智慧化决策目标。比如,他们透过AI审核模型,来加速玉山e速贷平台的贷款申请流程,最快58秒就能拨出贷款。

借镜科技业经验吸引人才

推动金融AI不只要有战略,“人”也很重要。

“我们常比对科技公司,他们怎么做,我们就思考怎么做。”张智星举例,玉山近来开始建立工程师职等,设立不同级别的工程师职称,比如助理工程师、主任工程师、首席工程师,要让想踏进金融业的工程师,清楚知道未来在玉山的职涯发展。他们希望透过这个方式,来吸引更多人才。

此外,就连工程师的办公型态,也是玉山考量的新方向。因为,疫情爆发时,智金处八成人员居家办公,证明了不必到办公室,也能执行任务。

这让他们思考,疫情结束后是否该保留居家办公这个工作型态。“因为,许多科技公司都采虚拟办公,不需实体办公室,”张智星分析,虚拟办公不仅省下办公室成本,还有机会招募到不同国家的人才,“这正是我们在讨论的议题。”

不只工作职称和型态参考科技业经验,玉山还有一点,也借镜了科技界作法。近年来,玉山积极与顶尖学术机构办理产学合作,先后与交大、台大、中研院等机构,共同设置玉山AI研究中心,来探索前瞻技术应用潜力。

这是因为,“学校能把最新技术源源不断带进产业,甚至是人才,让技术发展更完整,”他说。

不可否认,科技是推动玉山创新的一大关键。“玉山银行、玉山金控,干脆称玉山科技好了,因为科技占了玉山很大一部分,”他形容,科技是玉山的斤斗云,让玉山跑得更快、飞得更远。

 玉山科技长:台湾要发展AI国力 

玉山AI应用遍地开花,开源模型扮演关键角色。玉山金控科技长张智星指出,玉山关注的AI技术很广,举凡自然语言处理(NLP)、语音合成、影像辨识、生物认证、声纹辨识、活体侦测等,都在研究范围内。通常,他们会采用现有的开源预训练模型,再用自家资料来微调,将模型调整为适合玉山场景的AI系统。

比如,他们会用Google三年前开源的经典NLP预训练模型BERT,来微调成能揪出反洗钱黑名单的AI帮手。“这类NLP开源模型准确度很高,只需微调一点就行,”他说。

甚至如BERT、Transformer这类开源NLP模型,在玉山内部已运用得满坑满谷了。正因如此,张智星深刻体会到,AI代表国力,比如Google耗费上千万美元打造BERT,免费开源给全球社群使用,让资源不足的使用者,也能使用昂贵的模型,在在彰显美国AI国力。

但由OpenAI打造、比BERT还强大的自然语言生成模型GPT-3,就未开源给全球使用者使用。企业若有需求,只能选择其他次等的开源模型。对玉山来说,为进一步探索比开源模型更深入的突破性技术,他们得积极与学术机构合作,找出有潜力的前瞻性技术、打造金融新服务。

因此,他也悟出:“台湾不能只等别的国家开源模型,也要有能力自行开发。”张智星直言,对台湾来说,唯一的解方是靠-发起,以-的资源和力量,号召台湾企业、学界投入研发,打造台湾专属的大型预训练模型。

“至少科技部、国网中心要出来,提供运算资源来让产学界开发,”他强调:“这种特别时刻,要动员整体国家力量,才会更快与国际接轨。”

2021-08-16 09:44:00

相关文章