近年來，自然語言處理 (NLP) 領域經歷了一場巨大的變革，大型語言模型 (LLM) 的出現賦予了它們卓越的理解和處理人類語言的能力。其中最新的模型之一 Gemini 1.5 提供了強大的脈絡分析能力。谷歌的 Gemini 1.5 模型現在擁有一個包含一百萬個詞元的海量語境窗口，使其直接競爭對手 ChatGPT、Claude 和其他 AI 聊天機器人相形見絀。
Gemini 1.5 中 100 萬個詞條的上下文視窗具有顛覆性的意義，它使模型能夠更深入、更準確地理解語言。憑藉更強大的上下文容量，該模型可以分析給定單字或句子周圍的更多單字和短語，從而更好地推斷含義。查看 Google Gemini AI 到來：它會在人工智慧世界中比 ChatGPT 更有效嗎？
快速連結
什麼是上下文視窗？
在回答您的查詢（例如解釋概念或總結文字）時，AI 模型在產生回應時所能考慮的資料量是有限制的。它們能夠考慮的最大文字量稱為上下文視窗。
換個角度來理解這個概念。假設你去雜貨店買蔬菜和家居用品，沒有購物清單。你在購物時能記住的商品數量上限就是你的上下文視窗。你能記住的商品越多，你的個人化購物計畫就越不容易被破壞。同樣，AI 模型的上下文視窗越大，它記住所有需要的信息，從而為你提供最佳結果的可能性就越大。
在撰寫本文時，Anthropic 的 Claude 2.1 上下文視窗包含 20 萬個 token，是所有公開 AI 模型中最大的上下文視窗。緊隨其後的是 GPT-4 Turbo，其上下文視窗包含 128,000 個 token。 Google的 Gemini 1.5 提供了 100 萬個 token 的上下文窗口，是市面上其他任何模型的四倍。這就引出了一個大問題：100 萬個 token 的上下文視窗有什麼特別之處？ ChatGPT 令牌限制是多少？您可以超出它嗎？
為什麼 Gemini 1.5 中的上下文視窗如此重要
更詳細地說，Claude AI 擁有 200 萬個上下文窗口，這意味著它可以讀取一本約 1.5 萬字的書籍並提供答案。這已經很龐大了。但 Google Gemini 150 一次就能讀出 700000 萬字！
當你向 ChatGPT 或 Gemini 等人工智慧聊天機器人輸入大量文本時，它們會盡可能地吸收文本，但實際吸收量取決於它們的上下文視窗。因此，如果你在一個只能處理 28 萬個單字的模型上進行長達 100 萬個單字的對話，然後你開始問一些需要它完全理解全部 100 萬個單字的問題，那麼你的模型注定會失敗。
想像一下，你正在觀看一小時的電影，但只看了20分鐘，卻被要求解釋整部電影。你的回答會有多好？你要嘛拒絕回答，要嘛乾脆編造故事，而這正是人工智慧聊天機器人會做的事情，這會導致 人工智慧幻覺.
現在，如果您認為自己永遠不需要向聊天機器人輸入 100 萬個單詞，那就錯了。上下文視窗的功能遠不止您在一次提示中輸入給 AI 模型的文字。 AI 模型會考慮您在聊天會話期間的整個對話，以確保其回應盡可能相關。
所以，即使你沒有給模型輸入一本十萬字的書，你們之間的對話以及它提供的回應都會被計入上下文視窗的計算中。想知道為什麼 ChatGPT 或谷歌的 Gemini 總是忘記你之前在對話中說過的內容嗎？很可能是上下文視窗空間不足，它開始忘記一些內容了。
對於需要深入理解上下文的任務，例如總結長篇文章、回答複雜問題或在生成的文本中保持連貫的敘述，更大的上下文視窗尤其重要。想要寫一部 50 萬字的小說，並且始終保持敘事的連貫性嗎？想要一個能夠「觀看」一小時影片並回答問題的模型嗎？您需要一個更大的上下文視窗！
簡而言之，Gemini 1.5 更大的上下文視窗可以顯著提高其 AI 模型的性能，減少幻覺，並顯著提高準確性和更好地遵循指令的能力。
Gemini 1.5 能否不負眾望？
如果一切按計劃進行，Gemini 1.5 的表現很可能會超越市面上最好的 AI 模型。然而，鑑於谷歌在建立穩定的 AI 模型方面屢屢失敗，謹慎行事至關重要。僅僅增加模型的上下文視窗並不能自動提升模型的效能。
自發布以來，我已經使用 200 大小的 Claude 2.1 上下文視窗幾個月了，有一件事對我來說很清楚 - 更大的上下文視窗確實可以提高上下文敏感度，但底層模型的效能問題會使更大的上下文出現問題。
Google Gemini 1.5 會改變遊戲規則嗎？社群媒體上目前充斥著早期用戶對 Gemini 1.5 的熱情評價。然而，大多數五星好評都源自於倉促或簡化的使用情境。想了解 Gemini 1.5 的實際效能，不妨看看技術報告。 Google雙子座1.5 [PDF]。報告顯示，即使在「受控測試」期間，該模型也無法在其上下文視窗大小內檢索文件的所有細節。
一百萬個詞條的上下文視窗已經是一項令人印象深刻的技術成就，但如果無法可靠地檢索文件細節，更大的上下文視窗就沒有什麼實用價值，反而會導致準確率下降和額外的混淆。現在你可以看到 超越 ChatGPT：聊天機器人和生成式人工智慧的未來願景？
