出處:經濟日報|詹文男|數位轉型學院院長、台大商學研究所兼任教授
所謂Token,在企業導入生成式AI的熱潮中,竟被賦予了某種特殊意義。
前一陣子在矽谷流行起一個新名詞:Token俱樂部。所謂Token,原本只是AI模型運作時所消耗的運算單位,但在企業導入生成式AI的熱潮中,竟被賦予了某種特殊意義。
有公司開始追蹤員工的AI使用量,有些團隊甚至暗中比較誰消耗的Token最多。AI使用量愈高,似乎就象徵數位能力愈強、工作效率愈好。但熱潮很快就碰到現實。
當企業開始收到愈來愈高的AI帳單,才猛然發現:原來AI不是免費的智能,而是需要精打細算的新型資源。尤其當數萬名員工同時使用高階模型,讓AI幫忙寫信、摘要會議、整理資料,組織看到的往往不是競爭力的大幅提升,而是成本以驚人的速度上升,因此開始管制Token的使用…