LLM 真實使用案例的批判性分析：諾言與現實之間

儘管有關大型語言模型 (LLM) 實際價值的爭論仍在繼續，但批判性地檢視企業實施的實際使用案例是非常重要的。本分析旨在檢視 LLM 在不同領域的具體應用，並審慎評估其實際價值、限制與潛力。

‍

電子商務與零售：針對性優化還是過度工程化？

在零售和電子商務領域，LLM 被用於執行各種任務：

• 內部助理與工作流程改善：Instacart 已開發出一種名為 Ava 的 AI 助理，可支援團隊撰寫、檢閱與除錯程式碼，改善溝通並建立內部工具。雖然前景可觀，但我們不禁要問，這些助理是否能提供比較傳統、複雜度較低的協作工具更多的價值。
• 內容管理與安全性：Whatnot 使用 LLM 來改善多模式內容管理、詐騙保護及偵測報價中的不規則內容。Zillow 使用 LLM 識別物業廣告中的歧視性內容。這些案例代表了 LLM 可以提供真正價值的特定應用，但需要精確的驗證系統，以避免誤判和誤判。
• 資訊擷取與分類：OLX 創造了 Prosus AI Assistant 來識別廣告中的工作角色，而 Walmart 則開發了一套系統來從 PDF 中萃取產品屬性。這些案例證明了 LLM 在自動化原本需要大量人工的重複性工作上的實用性。
• 創意內容生成：StitchFix 將演算法產生的文字與人工監督結合，簡化廣告標題和產品說明的創作。Instacart 會產生食品的圖像。這些應用程式提出了關於所產生內容的原創性以及廣告語言可能同質化的問題。
• 搜尋改善：Leboncoin、Mercado Libre 和 Faire 使用 LLM 來改善搜尋相關性，而 Amazon 則採用 LLM 來了解常識關係，並提供更相關的產品建議。這些案例代表了 LLM 具備潛在重大附加價值的領域，但計算複雜度與相關能源成本可能無法證明比現有搜尋演算法的增量改善是合理的。

金融科技與銀行業：在價值與法規風險之間遊刃有餘

‍

在金融領域，由於資料的敏感性和嚴格的法規要求，LLM 的應用必須謹慎：

• 資料的分類與標籤：Grab 使用 LLM 進行資料治理、實體分類、識別敏感資訊和指定適當標籤。這個使用案例特別有趣，因為它解決了金融機構的重要挑戰，但需要嚴格的控制機制來避免分類錯誤。
• 金融犯罪報告生成：SumUp 可為金融欺詐和洗錢報告生成結構化敘述。此應用程式雖然有望減少人工工作量，但卻令人擔心法律學家在沒有人員監督的情況下，是否有能力妥善處理法律上的敏感話題。
• 支援財務查詢：Digits 建議與銀行交易相關的查詢。此使用案例顯示 LLM 如何在不取代專業人員的情況下協助專業人員，這可能是比完全自動化更持久的方法。

技術：自動化與服務

‍

在技術領域，LLM 廣泛用於改善內部工作流程和使用者體驗：

• 事件管理與安全性：根據 security.googleblog.com 的說法，Google 使用 LLM 為不同的接收者 (包括主管、經理與合作夥伴團隊) 提供安全性與隱私權事件摘要。此方法可節省管理人員的時間，並提高事件摘要的品質。Microsoft 採用 LLM 來診斷生產事件，而 Meta 則開發了一套 AI 輔助的根本原因分析系統。Incident.io 會產生軟體事故摘要。這些案例證明了 LLM 在加速關鍵流程上的價值，但也讓人對其在高風險情況下的可靠性產生疑問。
• 編程協助：GitHub Copilot 提供程式碼建議與自動完成功能，而 Replit 則開發了 LLM 用於程式碼修復。NVIDIA 使用 LLM 來偵測軟體漏洞。這些工具提高了開發人員的生產力，但如果不加批判地使用，也可能傳播低效或不安全的程式碼模式。
• 資料查詢與內部搜尋：Honeycomb 協助使用者撰寫資料查詢，Pinterest 將使用者查詢轉換成 SQL 查詢。這些案例顯示了 LLM 如何讓資料存取民主化，但也可能在沒有徹底了解底層資料結構的情況下，導致誤解或低效率。
• 支援要求的分類與管理：GoDaddy 會將支援要求分類，以改善客戶體驗。Dropbox 總結並回答有關檔案的問題。這些案例顯示了 LLM 在改善客戶服務方面的潛力，但也引起了人們對所產生答案的品質與準確性的疑慮。

運送與移動性：運作效率與客製化

‍

在傳輸和移動領域，LLM 用於提高運營效率和用戶體驗：

• 測試與技術支援：Uber 使用 LLM 與 DragonCrawl 測試行動應用程式，並建立了 Genie 這個 AI 副駕駛來回答支援問題。這些工具可以大幅減少測試與支援所花費的時間，但可能無法像人類測試人員一樣捕捉到複雜的問題或邊緣案例。
• 擷取和比對產品資訊：DoorDash 從 SKU 資料中擷取詳細產品資訊，Delivery Hero 則將其庫存與競爭對手的產品進行比對。這些案例顯示 LLM 如何自動化複雜的資料比對流程，但如果沒有適當的控制，可能會造成偏差或誤解。
• 會話式搜尋與相關性：Picnic 改善了產品清單的搜尋相關性，而 Swiggy 則實施神經式搜尋，以會話方式協助使用者發現食物和雜貨。這些案例說明 LLM 如何讓搜尋介面更直覺，但也可能造成「過濾泡泡」，限制新產品的發現。
• 支援自動化：DoorDash 已經建立了一個以 LLM 為基礎的支援聊天機器人，可以從知識庫擷取資訊，產生快速解決問題的答案。這種方法可以改善回應時間，但需要強大的防護機制，以處理複雜或情緒化的情況。

社交、媒體與 B2C：個人化內容與互動

‍

在社交媒體和 B2C 服務中，LLM 可用於建立客製化內容和改善互動：

• 內容分析與修改：Yelp 已利用 LLM 更新其內容修改系統，以偵測威脅、騷擾、猥褻、人身攻擊或仇恨言論。LinkedIn 會分析平台上的各種內容，以擷取有關技能的資訊。這些案例顯示了 LLM 在改善內容品質方面的潛力，但也引起了對審查制度和可能限制表達自由的疑慮。
• 教育內容製作與行銷：Duolingo 使用 LLM 協助設計師製作相關練習，而 Nextdoor 則使用 LLM 製作搶眼的電子郵件物件。這些應用程式可以提高效率，但也可能導致內容過於標準化。
• 多語翻譯與溝通：Roblox 利用客製化的多語模式，讓使用者可以使用自己的語言進行無縫溝通。此應用顯示了 LLM 在克服語言障礙方面的潛力，但可能會在翻譯中引入文化上的細微差異。
• 與媒體內容互動：Vimeo 允許使用者透過以 RAG 為基礎的問答系統與影片互動，該系統可總結視訊內容、連結至關鍵時刻並建議其他問題。這個應用程式展示了 LLM 如何改變我們與多媒體內容互動的方式，但也提出了關於所產生詮釋的真實性的問題。

批判性評估：真實價值與跟隨潮流

正如 Cleartelligence, Inc. 數據管理業務總監Chitra Sundaram 指出："LLM 是資源消耗者。訓練和執行這些模型需要龐大的運算能力，因此會產生大量的碳足跡。可持續 IT 關鍵在於優化資源使用、減少浪費並選擇適當規模的解決方案。在分析提出的使用案例時，這一觀點尤其重要。

‍

在分析這些使用個案時，會出現幾個重要的考慮因素：

1.遞增價值與複雜性

‍

與現有的解決方案相比，LLM 的許多應用提供了遞增的改進，但卻大幅提高了計算、能源和實作成本。正如 Chitra Sundaram 所說：「使用 LLM 來計算簡單的平均值，就像用火箭筒打蒼蠅一樣」(paste-2.txt)。評估附加價值是否足以證明這種複雜性是非常重要的，尤其是考慮到以下因素：

• 需要健全的監控系統
• 能源成本與環境影響
• 維護與更新的複雜性
• 專業技能要求

2.依賴人工監督

‍

大多數成功的使用案例都採用人在環中的方式，LLM 協助而非完全取代人的介入。這表明：

• 透過 LLM 實現完全自動化仍存在問題
• 主要的價值在於增強人類的能力，而非取代人類的能力
• 有效性取決於人機互動的品質

3.特定領域與一般應用

‍

最有說服力的使用案例是那些針對特定領域調整和優化 LLM，並將領域知識嵌入其中的案例：

• 針對特定產業資料進行微調
• 與現有系統和知識來源整合
• 護欄和特定上下文限制

4.與現有技術整合

最有效的案例並非單獨使用 LLM，而是輔以其他方式：

• 資料復原與歸檔系統 (RAG)
• 專業演算法與現有工作流程
• 驗證與控制機制

正如Google 的使用案例所強調的，將 LLM 整合至安全與隱私事件工作流程，可「使用產生式 AI 加速事件回應」，並針對不同的受眾量身打造所產生的摘要，確保相關資訊以最有用的形式傳達給正確的人。

‍

結論：實用的 LLM 方法

Chitra Sundaram 提供了一個具啟發性的觀點，他說：「通往永續分析之路的關鍵在於為工作選擇正確的工具，而不只是追逐最新的趨勢。這是關於投資於熟練的分析師和健全的資料管理。將永續性作為重要的優先考量」。

‍

對這些真實使用案例的分析證實，LLM 並非神奇的解決方案，而是強大的工具，當策略性地應用於特定問題時，可以提供顯著的價值。組織應該

1. 找出自然語言處理比傳統方法更具優勢的特定問題
2. 從可以快速且可衡量地展示價值的試點專案開始
3. 將 LLM 與現有系統整合，而非完全取代工作流程
4. 維持人工監督機制，特別是關鍵應用程式
5. 有系統地評估成本效益比，不僅要考慮性能改進，還要考慮能源、維護和升級成本

在 LLM 時代茁壯成長的公司，不一定是那些最廣泛採用 LLM 的公司，而是那些最有策略性地應用 LLM 的公司，能夠平衡創新與實用性，並在炒作之外，保持批判性的眼光來看待所產生的真正價值。

‍