英特爾與星環科技再攜手，打造大語言模型訓練新“利器”

近日，英特爾與星環科技在2023中國國際進口博覽會上，聯合發布了AIGC向量數據庫解決方案，旨在支持多樣化機器學習模型生成的海量向量數據，滿足企業針對海量向量數據的高實時性查詢、檢索、召回等需求，為人工智能時代多元化應用場景提供有力支持，為企業業務加速發展提供助力。

隨著大語言模型的發展，生成式AI開始逐漸應用于千行百業，企業對大語言模型解決方案的時效性、準確度等方面的要求逐漸提高。而當整個大模型的參數在百億級別的時候，它具備了初步的自然語言理解能力。但如果希望大模型能夠去做一些文本輸出、編碼輸出，它的整個參數量級至少要到300-500億，但是即使到達這樣的量級，其準確率也只有50%左右。如果希望整個大模型具備比較好的準確度，它的良好推理能力、計算能力，具備比較好的邏輯思維能力的話，整個大模型的參數量要到5千億的量級。

除此之外，當將大模型應用于垂直、專業領域的時候，其缺乏專業的大模型的行業數據、提供的信息具備不確定性等問題均亟待解決。因此，當采用文本嵌入的方式，把最新的信息、行業的信息，全部向量化之后存到數據庫里面，則不僅能夠為緩解大模型壓力，還可以提供更具時效性的信息。基于此，星環科技推出基于第四代英特爾至強可擴展處理器的Transwarp Hippo分布式向量數據庫解決方案。得益于第四代英特爾?至強?可擴展處理器的高內存帶寬優勢和多核性能優勢，該數據庫解決方案的靈活性得到顯著增強；而VNNI指令集也進一步提升了向量計算的性能。從測試結果可以看到，Transwarp Hippo分布式向量數據庫解決方案整體性能得到了20%-30%左右的提升。

憑借高可用、高性能、易拓展等特性，Transwarp Hippo在大模型場景中，可以極大地拓展大模型的應用邊界，讓大模型保持信息實時性，并能夠動態調整，使大模型擁有“長期記憶”，解決“AI幻覺”的問題。

英特爾中國軟件技術合作事業部總經理唐炯指出，人工智能技術的高速發展，不僅為全球數字經濟注入全新動力，也為企業在多樣化業務場景中帶來更多全新挑戰。深耕人工智能領域多年，英特爾致力于以前瞻性視角，攜手生態伙伴一道，通過產品技術創新，打造滿足不同業務需求的解決方案，加速大模型應用落地。