英國電信聯(lián)合AWS構(gòu)建GenAI Gateway平臺，加速內(nèi)部流程智能化轉(zhuǎn)型

據(jù)報道，英國電信數(shù)字部門日前推出了名為“GenAI Gateway”（生成式AI網(wǎng)關(guān)）的管理平臺，該平臺可以采用Anthropic、Meta、Cohere和亞馬遜等公司提供的一系列大型語言模型（LLM）。

英國電信可以將這個平臺應(yīng)用在任何用例中，完成了大量復(fù)雜且繁重的任務(wù)，為該平臺的順利運行奠定了堅實的基礎(chǔ)。值得注意的是，AWS在這一過程中發(fā)揮了至關(guān)重要的作用，表面其可能是主要技術(shù)提供者。

據(jù)悉，該平臺是使用Amazon Bedrock(這一套GenAI應(yīng)用開發(fā)服務(wù))和Amazon Sagemaker(一種托管機器學習服務(wù))開發(fā)的，使企業(yè)能夠針對任何數(shù)量的用例訓練和定制機器學習模型。此外，AWS還為英國電信提供專業(yè)服務(wù)以確保順利運行。

GenAI Gateway的首個測試版用例已經(jīng)開始運行。英國電信網(wǎng)絡(luò)部門Openreach正在利用該平臺來整理以太網(wǎng)和全光纖工作相關(guān)的工程說明，從而幫助簡化流程，提升內(nèi)部高團隊及其通信服務(wù)提供商（CSP）客戶的生產(chǎn)力。

此外，英國電信的業(yè)務(wù)、法律和采購團隊也開始使用GenAI Gateway來改進合同分析。

英國電信在一份聲明中明確表示，GenAI Gateway是該公司一項“All in”的舉措，公司不會嘗試開發(fā)其他不同的AI解決方案。部署這個平臺將減少重復(fù)工作和浪費資源的風險。這也意味著API、安全配置和基礎(chǔ)設(shè)施管理都可以集中管理，從而降低錯誤風險或為不同的用例維護單獨的LLM。

英國電信還在回答相關(guān)問題時指出，雖然臨時使用多個LLM適合用于測試和開發(fā)，但不適合大規(guī)模使用。采用支持多種模型的靈活解決方案意味著英國電信的團隊可以為合適的用例使用正確的模型，而不會出現(xiàn)成本增加和效率低下的問題。

此外，采用多LLM的方法還可以提供安全保障，以防其中的一個模型出現(xiàn)編造虛假信息（稱為幻覺）或停止預(yù)期的行為。

GenAI Gateway還采用了幾項保障措施確保符合所有重要的“道德AI”標準。這些措施包括過濾掉個人身份信息，使用在英國本土處理和存儲的數(shù)據(jù)，以及將經(jīng)過訓練的模型相互隔離，以防止它們過于自由地共享數(shù)據(jù)。同時GenAI應(yīng)用還受到了一定的限制，以降低有害交互的風險，并過濾與其特定用例無關(guān)的查詢。這些舉措可以強化其在實際應(yīng)用中的可靠性和穩(wěn)定性。

英國電信數(shù)字部門數(shù)據(jù)和AI總監(jiān)Deepika Adusumilli表示，“AI正在幫助我們重新構(gòu)想公司的未來發(fā)展。我們認為，在數(shù)據(jù)不變的情況下，我們需要LLM更具靈活性。GenAI Gateway正是我們實現(xiàn)這一目標的強大工具，它讓我們能夠以安全、負責、靈活且可擴展的方式大規(guī)模地利這一前沿技術(shù)，充分釋放英國電信集團內(nèi)部員工的潛力，無論是現(xiàn)在還是未來?！?

AWS EMEA地區(qū)電信業(yè)務(wù)總經(jīng)理Fabio Cerone補充說：“英國電信的GenAI Gateway展示了企業(yè)如何有效地大規(guī)模和快速部署GenAI。這是一次具有開創(chuàng)性的絕佳合作機會，我們可以攜手客戶，采用逆向工作法，通過嵌入式安全性和合規(guī)性，加速將GenAI用例部署到生產(chǎn)的進程。GenAI Gateway將推動GenAI的采用，為英國電信及其客戶帶來更為迅速且顯著的成效。”

毋庸諱言，像英國電信這樣的運營商大規(guī)模部署GenAI，是AI走向主流應(yīng)用和建立可信度等的重要里程碑。當然對于那些獨立LLM提供商來說，每家分到的機會和蛋糕就減少了。