【ITBEAR科技資訊】5月17日消息，谷歌在其最新的I/O開發(fā)者大會上發(fā)布了一款名為PaLM2的通用大語言模型。據(jù)報道，該模型的訓練數(shù)據(jù)幾乎是其上一代模型的5倍，達到了3.6萬億個令牌。這使得PaLM2在編程、數(shù)學和創(chuàng)意寫作方面的表現(xiàn)更為出色。
谷歌內部文件顯示，PaLM2采用了一種名為"計算機優(yōu)化擴張"的新技術，使得大語言模型的整體性能更佳，包括推理速度更快、參數(shù)調用更少以及服務成本更低。據(jù)ITBEAR科技資訊了解，雖然谷歌并未公開披露具體訓練數(shù)據(jù)的規(guī)模和其他細節(jié)，但該公司強調新模型相比之前的版本更為高效，盡管規(guī)模更小，卻可以完成更加復雜的任務。
隨著人工智能技術的迅猛發(fā)展，谷歌和OpenAI等公司都在競相推出更強大的大語言模型，以吸引用戶使用聊天機器人代替?zhèn)鹘y(tǒng)搜索引擎直接獲取答案。然而，這些公司對于模型的訓練規(guī)模和細節(jié)信息保持保密，主要出于商業(yè)競爭考慮。不過，一些研究人員呼吁企業(yè)在人工智能領域增加透明度。
據(jù)ITBEAR科技資訊了解，PaLM2是谷歌自己推出的一款通用大語言模型，訓練涵蓋了100種語言，可執(zhí)行更廣泛的任務。該模型已經被應用于谷歌的多個功能和產品，包括實驗性聊天機器人Bard。據(jù)公開披露的信息顯示，PaLM2比其他現(xiàn)有模型更加強大。Facebook推出的LLaMA大語言模型采用了1.4萬億個令牌，而OpenAI的GPT-3在訓練時使用了3000億個令牌。
人工智能技術的迅速發(fā)展使得相關技術引發(fā)了一系列爭議。谷歌的高級研究科學家艾爾·邁赫迪·艾爾·麥哈麥迪(El Mahdi El Mhamdi)今年2月辭職，主要原因是人工智能技術缺乏透明度。OpenAI的CEO山姆·阿爾特曼(Sam Altman)也在美國國會的聽證會上表示，需要建立一套新的制度來應對人工智能的潛在問題。他強調說：“對于一種全新的技術，我們需要一套全新的框架。像我們這樣的公司應當為我們推出的工具承擔許多責任。”
近日，谷歌在其最新的I/O開發(fā)者大會上發(fā)布了最新的通用大語言模型PaLM2，引起了廣泛關注。據(jù)ITBEAR科技資訊了解，PaLM2的訓練數(shù)據(jù)規(guī)模幾乎是其上一代模型的5倍，達到了3.6萬億個令牌。這一數(shù)據(jù)規(guī)模的提升使得PaLM2在編程、數(shù)學和創(chuàng)意寫作方面表現(xiàn)更為出色。
谷歌內部文件顯示，PaLM2基于一種名為"計算機優(yōu)化擴張"的新技術進行訓練。這項新技術使得大語言模型在整體性能方面更為優(yōu)越，包括推理速度更快、參數(shù)調用更少以及服務成本的降低。盡管谷歌并未公開披露具體的訓練數(shù)據(jù)規(guī)模和其他細節(jié)，但該公司強調新模型的高效性，即使規(guī)模更小，也能夠完成更加復雜的任務。
在人工智能領域，谷歌和OpenAI等公司競相推出更強大的大語言模型，以吸引用戶使用聊天機器人代替?zhèn)鹘y(tǒng)搜索引擎直接獲取答案。然而，這些公司對于模型的訓練規(guī)模和細節(jié)信息保持保密，主要出于商業(yè)競爭的考慮。一些研究人員呼吁企業(yè)在人工智能領域增加透明度，以確保技術的公正性和可靠性。
據(jù)ITBEAR科技資訊了解，PaLM2是谷歌自己推出的通用大語言模型，經過訓練可覆蓋100種語言，能夠執(zhí)行更廣泛的任務。谷歌已經將該模型應用于25個功能和產品，包括實驗性聊天機器人Bard。根據(jù)公開披露的信息顯示，PaLM2比其他現(xiàn)有模型更為強大。Facebook推出的LLaMA大語言模型采用了1.4萬億個令牌，而OpenAI的GPT-3訓練時使用了3000億個令牌。
隨著人工智能技術的迅猛發(fā)展，相關技術也引發(fā)了一系列爭議。谷歌的高級研究科學家艾爾·邁赫迪·艾爾·麥哈麥迪(El Mahdi El Mhamdi)今年2月辭職，主要原因是人工智能技術的缺乏透明度。同樣，OpenAI的CEO山姆·阿爾特曼(Sam Altman)在最近的一次美國國會聽證會上也表示，需要建立一套新的制度來應對人工智能的潛在問題。
人們對于這些強大的大語言模型的關注度不斷增加，因為它們在各個領域具有廣泛的應用潛力。然而，隨之而來的是對隱私和倫理問題的擔憂。一些研究人員和專家呼吁公司增加透明度，公開模型的訓練規(guī)模和細節(jié)信息，以便更好地評估其潛在影響和風險。
盡管谷歌和OpenAI等公司不愿透露詳細的訓練數(shù)據(jù)，但他們都在致力于推動人工智能技術的發(fā)展。谷歌表示，PaLM2模型相比于上一代模型更小巧高效，同時能夠處理更加復雜的任務。OpenAI則在最新的GPT-4大語言模型中展示了與人類媲美的表現(xiàn)。這些公司都希望通過不斷創(chuàng)新和改進，吸引更多用戶使用他們的人工智能工具。
人工智能的軍備競賽正在加劇，相關技術也在不斷進步。雖然這些大語言模型的出現(xiàn)給我們帶來了巨大的潛力和機遇，但也需要認真對待其中的倫理和隱私問題。在推動人工智能技術的發(fā)展的同時，確保透明度、責任性和可持續(xù)發(fā)展也是至關重要的。只有通過全球社區(qū)的共同努力，我們才能夠實現(xiàn)人工智能技術的最佳應用，為人類社會帶來積極的影響。
