近期，愛分析發(fā)布了《2024愛分析·AI Agent開發(fā)管理平臺市場廠商評估報告：神州問學》。愛分析認為，AI Agent市場從技術架構角度可以劃分為基礎層、平臺層和應用層?；A層是指支持AI gent的基礎環(huán)境，平臺層是基礎層和應用層之間的“橋梁”，有利于大模型在各種實際場景以AI Agent的形態(tài)快速落地，包括AI Agent開發(fā)管理平臺、LLMOps工具等。應用層是指各類場景的AI Agent。本評估報告聚焦AI Agent開發(fā)管理平臺市場，愛分析遴選出具備成熟解決方案和成功案例的神州問學進行能力評估，供企業(yè)做廠商選型時作為參考。

01 研究范圍定義

大模型浪潮席卷全球，AI Agent作為這股浪潮中的新星正在取代Copilot，成為大模型應用的主流形態(tài)之一，以其驚人的速度和影響力重塑科技和商業(yè)的版圖。

AI Agent 是指以大模型為驅動，具有自主理解感知、規(guī)劃、記憶和使用工具的能力，能自動化執(zhí)行的智能體。隨著大模型能力增強以及RAG等技術的成熟，AI Agent的能力得到了質的飛躍。這些模型賦予了AI Agent更接近人類的思維能力，再聯(lián)動各類工具和組件，使得AI Agent在處理復雜任務時表現(xiàn)出前所未有的靈活性和效率。從智能助手、個性化推薦系統(tǒng)到自動化客戶服務，AI Agent的應用案例層出不窮，它們在各行各業(yè)中展現(xiàn)出巨大的潛力和價值。

愛分析認為，AI Agent市場從技術架構角度可以劃分為基礎層、平臺層和應用層?；A層是指支持AI gent的基礎環(huán)境，包括大模型、算力基礎設施和數(shù)據(jù)基礎設施。平臺層是基礎層和應用層之間的“橋梁”，有利于大模型在各種實際場景以AI Agent的形態(tài)快速落地，包括AI Agent開發(fā)管理平臺、LLMOps工具等。應用層是指各類場景的AI Agent，既有金融、能源、汽車等行業(yè)場景的AI Agent，也有業(yè)務流程自動化、數(shù)據(jù)分析、協(xié)同辦公等通用場景的AI Agent。AI Agent市場劃分詳見下圖。

本評估報告聚焦AI Agent開發(fā)管理平臺市場，愛分析遴選出具備成熟解決方案和成功案例的廠商神州問學進行能力評估，供企業(yè)做廠商選型時作為參考。

02 AI Agent開發(fā)管理平臺市場分析

市場定義：

AI Agent開發(fā)管理平臺是以大模型為基礎，內置多樣化工具、插件，具備AI Agent開發(fā)、測試、發(fā)布、集成、運維、安全等一系列能力的全生命周期平臺。平臺可以快速搭建具備客戶特征的AI Agent，降低大模型應用開發(fā)門檻。

甲方終端用戶：

大型企業(yè)的IT部門、業(yè)務部門

甲方核心需求：

AI Agent開發(fā)管理平臺成為企業(yè)AI戰(zhàn)略的神經中樞，肩負著全員賦能與智能化升級的雙重使命。企業(yè)高層的“自上而下”策略，不僅確立了AI在企業(yè)中的核心地位，更明確了以技術提升全員效率和創(chuàng)新能力的目標。CIO們在這一過程中，需要的不僅是技術平臺，更是一個能夠提供深度應用規(guī)劃和初期開發(fā)的全面合作伙伴，以確保AI技術在企業(yè)中的有效落地和價值實現(xiàn)。

• AI Agent開發(fā)管理平臺是企業(yè)AI戰(zhàn)略的核心承載與全員賦能引擎。大型企業(yè)正積極探索其落地實施的有效途徑，而“自上而下”的推進策略已成為眾多企業(yè)的共同選擇。這種策略強調由企業(yè)高層領導牽頭，自頂向下地制定和執(zhí)行AI戰(zhàn)略。其中，"全員賦能"不僅是一項核心目標，更是衡量CIO工作績效的關鍵指標之一。為了實現(xiàn)這一目標，CIO們正尋求AI Agent開發(fā)管理平臺的支撐作用，旨在為每位員工配備個性化的AI助手，以技術賦能全員，激發(fā)組織潛力。

AI Agent開發(fā)管理平臺的建立，并非單純追求技術的應用，而是深挖AI在業(yè)務層面創(chuàng)造的實際價值。盡管不同企業(yè)對業(yè)務價值的定義各有側重，但普遍關注的三大價值領域可以概括如下：

1) 長尾場景的智能優(yōu)化：企業(yè)在日常運營中會遇到大量特定的長尾場景，這些場景雖小，卻直接影響員工的工作效率。AI Agent通過智能化處理，顯著提升員工的工作效率，使他們在不增加工作量的情況下，能夠高效處理更多任務。

2) 業(yè)務流程的效率提升：以某二手車交易企業(yè)為例，通過構建AI Agent，用戶可以利用自然語言交互的方式，大幅縮短選購流程，提高用戶體驗，加速交易進程。

3) 員工能力的專業(yè)升級：以合同審核為例，傳統(tǒng)上這一高風險工作需要專業(yè)知識豐富的人員來完成。AI Agent的引入，使得合同審核流程自動化成為可能，降低了對員工專業(yè)技能的門檻，優(yōu)化了人力資源配置，同時減少了對高級別專業(yè)人才的依賴。

• 企業(yè)追求的不只是AI Agent平臺，更需配套的應用規(guī)劃與初期應用開發(fā)。在大模型技術的落地之旅中，企業(yè)不僅是探索者，更渴望找到能夠并肩前行的"良師益友"。對于AI Agent開發(fā)管理平臺的引入，企業(yè)期望得到的不僅是一套軟件系統(tǒng)，而是希望平臺廠商能成為其應用規(guī)劃和實施的得力伙伴。在這一過程中，企業(yè)迫切需要解決的問題涵蓋了應用場景的選擇、優(yōu)先級排序、以及各場景預期的投資回報率（ROI）等關鍵咨詢領域。咨詢服務的核心，在于幫助企業(yè)明確AI Agent的應用藍圖，識別和評估那些最需要智能自動化的業(yè)務場景，并制定出切實可行的實施路線圖。這不僅涉及到技術層面的規(guī)劃，更包括業(yè)務流程的梳理和優(yōu)化。

在咨詢服務的基礎上，企業(yè)同樣需要廠商提供的應用開發(fā)服務，以確保平臺的落地和應用生態(tài)的初步構建。在初期采購平臺時，企業(yè)期望廠商能夠示范性地提供1-2個定制化的AI Agent，這不僅驗證了平臺的技術實力和業(yè)務適配性，也展現(xiàn)了AI技術在實際工作場景中的價值和潛力。然而，企業(yè)的最終目標是建立起自主可控的AI應用生態(tài)。因此，在首批AI Agent開發(fā)之后，企業(yè)將逐步過渡到由內部IT和業(yè)務團隊自行開發(fā)和維護AI Agent的模式。這要求平臺不僅要提供強大的技術支撐，還需配備相應的培訓和文檔資源，確保企業(yè)團隊能夠順利接管AI Agent的開發(fā)和迭代工作。

綜上所述，企業(yè)對AI Agent開發(fā)管理平臺的期待，已經超越了單純的技術采購，而是尋求一個全面的合作伙伴，共同規(guī)劃和培育企業(yè)的AI應用生態(tài)，實現(xiàn)業(yè)務流程的智能化轉型。

廠商能力要求：

廠商應致力于構建一個既技術先進又用戶友好的平臺，確保業(yè)務人員能夠輕松上手并快速開發(fā)個性化AI應用。這要求廠商提供無代碼和低代碼的配置方式，以及全代碼配置選項，滿足不同技術背景員工的需求。廠商需集成包括RAG技術在內的先進企業(yè)場景增強技術，以確保大模型在To B領域的有效應用。同時，構建一個功能豐富的公共插件中心和模板庫，以支持AI Agent的能力擴展和快速構建企業(yè)級應用。此外，廠商應配備專業(yè)的咨詢服務團隊和AI Agent開發(fā)團隊，深入企業(yè)進行需求分析和應用場景規(guī)劃，確保企業(yè)能夠精準投資并有效落地AI應用。開發(fā)團隊則負責將規(guī)劃轉化為實際的AI Agent，展示平臺的技術實力和業(yè)務價值。

• AI Agent開發(fā)管理平臺需要便于業(yè)務人員上手應用。為實現(xiàn)全員賦能的愿景，企業(yè)對AI Agent開發(fā)管理平臺的要求不僅是技術先進，更需界面友好，易于業(yè)務人員的使用。IT部門的專業(yè)技術力量固然重要，但業(yè)務部門的廣泛參與才是實現(xiàn)AI普及化的關鍵。因此，平臺的設計必須考慮到業(yè)務人員的操作習慣和技術水平，提供低門檻、高效率的開發(fā)環(huán)境。

AI Agent開發(fā)管理平臺應提供自然語言對話和一鍵創(chuàng)建功能，使得沒有編程基礎的業(yè)務人員也能輕松上手。平臺的無代碼和低代碼配置方式，通過簡化的拖拽操作，讓員工能夠快速構建和部署業(yè)務應用，無需編寫代碼。這種直觀的操作方式大大降低了技術門檻，使得業(yè)務人員能夠根據(jù)自己的業(yè)務需求，自主開發(fā)個性化的AI解決方案。

同時，為了滿足不同技術背景的企業(yè)需求，平臺還應提供全代碼配置方式，為具備一定編程能力的員工提供更大的自主性和靈活性。這種方式支持開發(fā)更復雜的AI應用，滿足企業(yè)在特定場景下對高級功能的需求。

• AI Agent開發(fā)管理平臺：集成RAG技術、插件生態(tài)與模板庫的強強聯(lián)合。僅依靠大模型構建AI Agent，更適合To C場景，例如寫文章、做摘要等。但是，此方式難以應用于To B場景。平臺必須融合先進的RAG技術以及多模態(tài)存儲、向量化處理、上下文理解增強等企業(yè)場景增強技術，以實現(xiàn)大模型在To B領域的有效落地。RAG技術在其中扮演著至關重要的角色。

AI Agent的能力擴展在很大程度上依賴于其“手腳”——插件。平臺應構建一個豐富的公共插件中心，提供覆蓋新聞搜索、生產力工具、圖像理解等多功能插件，以適應不同行業(yè)和場景的需求。同時，支持企業(yè)用戶根據(jù)自身需求，創(chuàng)建自定義插件，通過參數(shù)配置快速調用現(xiàn)有的API能力，從而實現(xiàn)AI Agent功能的個性化擴展。

為了進一步提升AI Agent的構建效率和質量，平臺應配備豐富的應用場景模板庫。這些模板應預置多種企業(yè)級應用場景，如法律咨詢、人力資源管理、營銷自動化、風險控制等，使企業(yè)能夠在極短的時間內快速搭建起符合特定業(yè)務需求的AI應用。

• 廠商應具備大模型落地規(guī)劃咨詢與AI Agent開發(fā)團隊。企業(yè)在采購AI Agent開發(fā)管理平臺時，往往會要求廠商提供應用規(guī)劃類的咨詢服務和應用開發(fā)服務。因此，廠商必須構建一支既精通大模型落地規(guī)劃咨詢，又具備強大AI Agent開發(fā)能力的專業(yè)團隊。

咨詢服務團隊負責深入企業(yè)，通過專業(yè)的分析和洞察，幫助企業(yè)識別那些既具有高價值又具備高可行性的應用場景。他們的目標是為企業(yè)描繪出一條清晰的AI應用落地路徑，確保企業(yè)投資的每一步都精準而有效。通過咨詢服務，企業(yè)能夠明確自身的需求和目標，為AI Agent的開發(fā)和管理奠定堅實的基礎。

與此同時，AI Agent開發(fā)團隊承擔著將規(guī)劃轉化為現(xiàn)實的責任。他們利用自身的技術專長，幫助企業(yè)開發(fā)首批AI Agent，快速展示平臺的技術實力和業(yè)務價值。這不僅為企業(yè)帶來了立竿見影的效益，也為后續(xù)的內部開發(fā)工作提供了寶貴的經驗和模板。

入選標準說明： 

1. 符合AI Agent開發(fā)管理平臺市場分析的廠商能力要求；

2. 近一年廠商在該市場至少服務1家企業(yè)。

03 廠商評估：神州問學

廠商介紹：

神州數(shù)碼集團股份有限公司（簡稱：神州數(shù)碼）在2023年推出AI原生賦能平臺——神州問學，旨在為企業(yè)提供模型、算力、數(shù)據(jù)和應用的連接能力，它既是一站式企業(yè)大模型集成平臺，也是企業(yè)的大模型運營平臺。發(fā)展至今，神州問學已落地金融、能源、汽車、醫(yī)療、消費零售、政務等多個領域。

產品服務介紹：

神州問學是企業(yè)級一站式GenAl集成平臺，致力于打通模型、數(shù)據(jù)、應用和算力四大要素，專注于企業(yè)大模型落地的全生命周期過程管理，有效應對大型應用落地中的各種挑戰(zhàn)。 

同時，神州問學提供了多云多語言支持，滿足企業(yè)多樣化的業(yè)務需求，幫助企業(yè)以快速且低成本的方式構建大模型應用。平臺內含八款大模型應用，包括慧閱讀、慧解析、慧回答、慧寫作、慧繪圖、慧翻譯、慧朗讀和慧互動，這些應用能夠助力企業(yè)在不同場景下實現(xiàn)智能化升級和業(yè)務創(chuàng)新。

廠商評估：

神州問學是涵蓋軟件與硬件的一站式解決方案，具備算力優(yōu)化、模型供應、場景增強和應用構建四大優(yōu)勢。神州問學通過專業(yè)的算力設計服務，有效降低企業(yè)在高端GPU資源上的支出。依托深厚的供應商關系，平臺提供全面、新穎且價格優(yōu)惠的大模型供應。結合企業(yè)場景增強技術，確保大模型在To B場景中的實用性和落地能力。此外，神州問學提供多樣化的配置方式和豐富的應用場景模板，使企業(yè)能夠快速搭建并定制化業(yè)務應用。

• 專注算力設計與資源管理，神州問學為企業(yè)節(jié)約算力支出。在當前高端GPU市場供應緊張、價格持續(xù)高位的背景下，企業(yè)在部署大型模型時面臨著成本控制的挑戰(zhàn)。神州問學通過專業(yè)的算力設計服務，幫助企業(yè)在保證性能的同時，實現(xiàn)成本效益的最大化。該團隊專注于為企業(yè)提供定制化的算力解決方案，以平衡性能需求與成本支出。

神州問學所提供的算力管理功能，能夠實現(xiàn)資源的統(tǒng)一管理和動態(tài)分配，這不僅提高了資源使用效率，也為企業(yè)節(jié)約了可觀的算力成本。通過這種高效的資源調度，企業(yè)能夠更加靈活地應對不同業(yè)務場景下的需求波動。

此外，神州問學還針對企業(yè)對算力的多樣化需求，提供了靈活的部署方案。無論是公有云還是私有云部署，企業(yè)都可以根據(jù)自己的業(yè)務特點和安全要求，選擇最合適的部署模式。同時，平臺還提供了包括國際品牌如英偉達的算力資源，以及符合國內信創(chuàng)標準的算力選項，確保企業(yè)能夠在全球化和本土化之間找到最佳平衡點。

• 依托深厚供應商關系，神州問學打造“全、新、惠”模型供應能力。憑借20余年的行業(yè)積累，神州數(shù)碼已與3萬余家生態(tài)伙伴建立了深厚的合作關系。這一龐大的合作伙伴網(wǎng)絡為神州問學提供了強大的模型供應能力，具備"全、新、惠"三大特點。

首先，"全"體現(xiàn)在神州問學對主流供應商如阿里百煉、百度千帆、智譜、百川、OpenAI等的大模型的廣泛適配。這種全面的兼容性確保企業(yè)能夠快速地選擇合適的大模型，滿足其多樣化的業(yè)務需求。

其次，"新"反映了神州問學在大模型更新迭代方面的敏捷性。面對大模型技術的快速發(fā)展，神州問學能夠迅速引入并上線最新的模型，幫助企業(yè)把握技術前沿，提升競爭力。

最后，"惠"則凸顯了神州問學在價格談判方面的優(yōu)勢。通過與供應商的緊密合作，神州問學能夠為企業(yè)爭取到更優(yōu)惠的價格，降低企業(yè)在大模型應用上的經濟負擔。

• 企業(yè)場景增強，神州問學讓大模型在toB場景真正落地。僅依靠大模型構建應用，更適合To C場景，例如寫文章、做摘要等。但是，此方式難以應用于To B場景。

神州問學通過深耕企業(yè)場景增強技術，成功實現(xiàn)了大模型在To B場景的落地應用。具體而言，企業(yè)場景增強相關技術包括RAG，多模態(tài)存儲、向量化，上下文理解增強，多輪會話增強、推理增強、人機會話增強，多路召回等。

• 20+企業(yè)級應用場景模板&3種配置方式，神州問學讓企業(yè)便捷搭建業(yè)務應用。神州問學在搭建業(yè)務應用方面具備四個亮點。

1) 靈活的配置方式：神州問學提供無代碼、低代碼、全代碼三種配置方式，滿足不同技術背景的企業(yè)需求。無代碼和低代碼配置方式通過直觀的拖拽操作，使企業(yè)能夠快速搭建業(yè)務應用；而全代碼配置方式則賦予企業(yè)更大的自主性，支持開發(fā)更復雜的AI應用。

2) 集成的企業(yè)級能力：平臺集成了ASR（自動語音識別）、TTS（文本到語音轉換）、OCR（光學字符識別）等關鍵技術，支持二次開發(fā)和定制化開發(fā)，確保與企業(yè)現(xiàn)有業(yè)務系統(tǒng)的無縫融合。

3) 豐富的應用場景模板：神州問學預置了20多個企業(yè)級應用場景模板，覆蓋法律、人力資源、營銷、風險控制等領域，使企業(yè)最快在5分鐘左右快速構建企業(yè)級應用。

4) 開箱即用的模型應用：神州問學提供八大模型應用，包括慧閱讀、慧解析、慧回答、慧寫作、慧繪圖、慧翻譯、慧朗讀、慧互動等，實現(xiàn)即插即用。例如，天士力醫(yī)藥基于慧閱讀開發(fā)了智能培訓機器人，通過模擬銷售情境與初級醫(yī)藥代表進行互動對話，實時校驗并矯正銷售話術，模擬醫(yī)生詢證產品情景，有效提升了醫(yī)藥代表的專業(yè)應答能力。

典型客戶：

天士力醫(yī)藥、某國際知名食品飲料企業(yè)、某省煙草局

04 入選證書