使用 Microsoft Cloud 建立 為 Ai 體驗建立 一個指南：ISV 指南
歡迎使用您的指南來建立 Microsoft Cloud (GenAI 的獨特體驗) 體驗。 身為 獨立軟體廠商 (ISV) ，您處於主要位置，利用 GenAI 的強大功能來創新並為客戶提供吸引人的解決方案。
什麼是 Microsoft Cloud？
Microsoft Cloud 是一個全方位且整合的平臺，提供各種功能與服務。 它包含 Azure AI、Microsoft 365、Microsoft Fabric 等等，使其處於全球專案 AI 變革的前端。
此平臺可讓您將專屬數據和功能呈現到各種領域，包括 Microsoft 365，這是數百萬人存取的生產力和共同作業中樞。
本指南可協助您流覽 Microsoft Cloud 生態系統中可用的廣泛可能性。
什麼是 Copilots?
我們指的是以 AI 為基礎的虛擬 助理，藉由協助人類執行複雜的認知工作、提供內容建議，以及推動數據豐富的深入解析，來提升用戶生產力。 這些 Copilot 可以以特定客戶或 ISV 數據和內容為基礎，為 ISV 提供機會來建立瞭解商務特定數據的 AI 體驗。
案例和方法
列出三個 copilot 擴充性 ISV 方法的圖表。 首先，擴充 Copilot 可讓您將數據和服務呈現至 Microsoft 的 Copilots。 其次，建立 copilot 可讓您使用最少的編碼和選擇性的 Microsoft 數據擷取，在任何地方建立 Copilot。 第三，完全控制可讓您建置自己的端對端 AI 體驗。 這三個選項的每一個選項都有下列文字中概述的更多詳細數據。
本指南提供案例導向指引，協助ISV流覽 Microsoft Cloud 上 GenAI 的廣泛領域。 我們的目標是協助您針對您獨特的的需求選取最適合的模式和技術，並依三種高階方法來製作 AI 體驗。
我們的方法會根據案例細分成模式，以協助您流覽最適當的案例和需求路徑。
重要
請注意，這些方法和其模式 不互斥。 您可以結合它們來建立量身打造的解決方案，以符合您獨特的需求和案例。
方法 1：將您的數據和服務呈現至 Microsoft 的 Copilots：
此方法專為想要將其數據和服務整合到 Microsoft 的 Copilots 的 ISV 而設計。 焦點在於使用外掛程式和 Graph 連接器來增強用戶體驗。
案例：我身為ISV，我的終端使用者在 Microsoft 應用程式中執行工作，例如 Teams、Word、Outlook，以及他們需要...
...使用自然語言介面存取資訊，我有想要透過這些 Microsoft 365 應用程式提供的現有服務。
...從我們的ISV數據源中繪製見解，結合使用者為中心的 Microsoft Graph 資料及其組織的企業營運數據。
方法 2：使用最少編碼和選擇性的 Microsoft 數據整合，在任何地方建立 Copilot：
這種方法適用於ISV，旨在使用 Microsoft 的數據和工具擴充其應用程式，或想要使用 Azure 建立自己的 AI 助理的人員。 它牽涉到使用 Microsoft 圖形 API、Copilot Studio 外掛程式、Teams AI 連結庫，或讓客戶透過連接器建立自己的數據交錯體驗。
案例：我是一個ISV，我的終端使用者可在任何地方工作...
...我想要讓他們使用我們的數據和服務建立自己的 Copilot 體驗。
案例：我是一個ISV， 我的終端使用者在現有的應用程式和UI中工作，想要我們...
...將 Microsoft 用戶為中心的 Graph 數據併入我的 copilot 中。
...在現有的應用程式中提供交談體驗，可回答問題並將交談轉換成動作。
模式 E： 使用 Azure 建立您自己的 AI 助理
案例：我是一個 ISV，其為 Copilot 體驗的目標 為 Microsoft Teams ，並包含...
...建立與 GenAI 整合的智慧 Teams Bot、在 Teams 中執行 Bot，並具有內容感知交談，或使用 Teams 聊天體驗，而 I 作為 ISV 著重於複雜的商業規則。
方法 3：完全控制：建置您自己的 (BYO) 端對端 AI 體驗：
這種方法適用於尋求使用 Azure AI Studio和語意核心等工具製作全新的 AI 體驗或 Copilot 的 ISV。 它提供最大的控制項和自定義功能，提供無限的可能性。
案例：我正尋求開發最新互通 AI 體驗的 ISV，
...需要特殊處理複雜、多模式的數據，這可能包括微調 AI 模型，以符合特定的精確度需求。
...針對量身打造的解決方案，請使用ISV的自定義AI模型和服務。
...提供對話式體驗的完整控制，包括系統提示、溫度、音調和自定義安全性需求。
提示
為了深入了解，建議您探索每個模式中提供的 開始使用 連結中提供的詳細內容。
Microsoft Copilot 堆疊包含三個不同的層：後端 (位於個別存放庫) 、中間的 AI 協調流程層，以及您 copilot) 的前端 (UI 體驗。 在每個層中，建置 Copilot 時，建議考慮的圖層。
當ISV從方法1移至方法3時，會更深入地與每一層互動，並假設開發責任更大。 例如，在 [方法 1] 下建立外掛程式表示 Microsoft 會處理 AI 協調流程，包括數據整合和負責任 AI。 相反地，開發自定義 Copilot 可能需要完全控制用戶體驗、協調流程層、數據管理和負責任 AI。
注意
雖然 「copilot」 是指一般 AI 助理 概念，但 「Copilot」 是指特定的 Microsoft 產品，例如 Microsoft 365 Copilot 或 Dynamics 365 COPilot，ISV 可以與之整合。
每個選項會因複雜度和精力而異。 採用現有的 Microsoft Copilot 很簡單，使用外掛程式擴充它們需要最少的工作，而製作新的 Copilot 體驗可能需要設計、科學和工程。
請務必記住，AI 解決方案與您建立模型的數據一樣好，並作為內容使用。 現成可用的 Microsoft Copilots 已經支援各種案例，並可隨著您的數據、函式和程序擴充。 不過，無法擴充使用者介面。 因此，請務必仔細考慮您的特定案例、如何套用 GenAI 演算法，以及使用者如何 (「試驗」) 可受益於您的 Copilot 功能。
方法 1：將您的數據和服務呈現至 Microsoft 的 Copilots
想要將其現有的服務、數據和處理程序呈現到 Microsoft 的 Copilots 或 Microsoft 365 應用程式，可以藉由建置外掛程式和連接器來執行此動作。
這種方法可讓 Microsoft 365 Copilot 與其他軟體和服務的 API 互動、呈現最新資訊、執行動作，以及執行新類型的計算。
模式 A：建立外掛程式以增強現有 Copilot 的功能
外掛程式是擴充現有 Copilot 的功能，可讓它與 ISV 應用程式和服務互動。 他們可以透過自然語言對話來啟用與 API 的互動，藉以擴充使用者的功能。 例如，外掛程式可讓 Copilot 擷取有用的信息、執行新的計算，或代表使用者安全地執行動作。
ISV 可以使用各種工具來建立外掛程式，包括透過 Copilot Studio 的 Teams 訊息延伸模組和 Power Platform 外掛程式。 新的外掛程式可以透過合作夥伴中心發佈至 Microsoft 的 Copilot 生態系統，IT 系統管理員可以核准這些外掛程式供終端使用者使用。
ISV 案例：
- 想要在 Microsoft 365 用戶端應用程式上呈現其現有服務的 ISV
- 使用者可以從 Microsoft 365 用戶端應用程式搜尋、更新及執行 ISV 應用程式或任何外部系統的動作，例如 Teams、Outlook、Word 等。
- Teams 上的使用者可以從客戶使用的外部票證或CRM系統找到相關信息，選擇性地包括代表使用者在系統內執行動作
合作夥伴優點：
- 使用 Microsoft 365 用戶端應用程式為數百萬個使用者和公司提供服務，並符合他們目前工作的使用者。
- 藉由在 Microsoft 365 用戶端應用程式中呈現解決方案服務可見度，
- 藉由免除在多個應用程式和畫布之間流覽的需求，以減少使用者的摩擦。
- 跨 Microsoft 365 應用程式提供一致的用戶體驗，具有跨 Microsoft 365 應用程式的通用整合和持續性。
- 例如，Contoso 使用者會探索最新客戶帳戶，其中包含來自 Outlook、SharePoint 和 Fabrikam 外部系統的數據，而不需要離開 Teams。
要從何處開始：
- 建置 適用於 Microsoft 365 的 Microsoft Copilot 的訊息延伸模組 |Microsoft Learn
- 建立 copilot 外掛程式 - 概觀 (預覽) - Microsoft Copilot Studio |Microsoft Learn
重要心得：
- 外掛程式是一種在 Microsoft Copilot 上呈現 ISV 服務和應用程式的方式，可讓使用者與 Microsoft 365 用戶端應用程式的 ISV 應用程式和服務互動。
- ISV 可以使用 Teams 訊息延伸模組和 Copilot Studio 外掛程式等工具來建立外掛程式。
- 外掛程式可以透過合作夥伴中心增加解決方案的可見度和可探索性
模式 B：使用 Graph 聯機器將數據帶入 Copilot 體驗
圖形連接器 可讓ISV將其數據連線到 Microsoft 365 語意索引。 其數據會直接從 Microsoft 365 用戶端應用程式，例如 Teams、Outlook 和 Word，變成可搜尋且可採取動作。 Microsoft Copilot 會透過 Microsoft Graph 成為 ISV 數據的基礎，無論是雲端或內部部署。 此外，ISV 可以使用 Microsoft Fabric 作為 SaaS 產品提供的統一數據平臺，將其數據帶入 Microsoft Cloud，並輕鬆地將其連線到 Microsoft Graph。
ISV 可以使用 Microsoft Graph 連接器 API 來建置 Graph 連接器，其支援各種數據源、檔案系統、網頁、企業應用程式等等。
圖形連接器也可以使用 AI 功能擴充數據，例如自然語言處理、實體擷取和影像分析。 藉由使用 Graph 連接器，ISV 可以使用自己的數據擴充 Microsoft Copilot、增強用戶體驗，以及啟用更個人化且安全的互動。
已有數百個 Graph 連接器存在。 例如，Jira Cloud Graph 連接器可以將 Jira 物件提升為與 Microsoft 365 Graph 數據相同的層級，允許完整的原因和通用整合，進而增強且更豐富的深入解析。 連接器可讓使用者使用自然語言介面從 Microsoft 365 Copilot 搜尋 Jira 物件。
ISV 案例：
- 客戶在 Microsoft 365 中執行工作的 ISV，並想要讓使用者從 ISV 數據源中擷取見解，並結合以使用者為中心的 Microsoft Graph 數據。
- 使用者可以從ISV應用程式擷取、摘要和原因，與其他 Microsoft 365 圖形數據結合，例如電子郵件、文字檔等。
- 通訊主管需要在 Outlook 中尋找並重新散發 PR 電子郵件，這些電子郵件會使用來自 ISV 圖形設計應用程式的內容進行擴充
合作夥伴優勢：
- 符合使用者的工作位置。 大量的使用者基底使用 Microsoft 365 用戶端應用程式，現在可以在一個統一的體驗中存取您自己的數據和服務。
- 藉由結合ISV數據與 Microsoft Graph 數據來擴充深入解析。
- 與 Microsoft 365 應用程式、Microsoft 搜尋、Context IQ 和 Viva 的通用整合，以及一個連接器。
- 擴充的頻道來展示ISV數據，可能會增加使用者群。
要從何處開始：
- 若要深入瞭解圖形連接器，請參閱 aka.ms/graph-connectors
- 在建置適用於 適用於 Microsoft 365 的 Microsoft Copilot 的 Microsoft Graph 連接器上建置您自己的圖形連接器 |Microsoft Learn
重要心得：
- 圖形連接器可讓ISV將其數據帶入 Microsoft Copilot 生態系統，使用個人化且安全的互動來增強用戶體驗。
- ISV 可以使用 Microsoft Fabric 將數據帶入 Microsoft Cloud，並將其連線到 Microsoft Graph。
- ISV 可以使用 Graph 連接器，將其數據與 Microsoft 365 圖形數據結合，以提供豐富的深入解析，並達成與 Microsoft 365 應用程式的通用整合。
方法 2：使用最少編碼和選擇性的 Microsoft 數據整合，在任何地方建立 Copilot
ISV 可將位於 Microsoft Graph 中的工具和數據的強大功能帶入自己的應用程式中，強化其功能和用戶體驗。
模式 C：開發 Power Platform 連接器，以在 Copilot Studio 中啟用客戶導向的 Copilot
Copilot Studio 可讓客戶建立低程式碼 AI 應用程式，以使用其組織和 Microsoft 和合作夥伴資料源的數據來回應常見的用戶查詢。 Copilot Studio 會使用Power Platform Connector來帶入可能來自任何來源的數據，其中目前有超過500個連接器。 身為ISV，您可以建立資料與服務的連接器，讓客戶建立自己的內部 Copilot 和 AI 應用程式，以 ISV 資料為基礎。
這些 AI 應用程式可以呈現給各種平台的使用者，包括網站、行動應用程式、Microsoft Teams 或任何 Azure Bot Framework 支援的頻道。
範例案例：
- ISV 想要在其現有應用程式中為客戶提供聊天機器人體驗，以回應問題並將交談轉換成動作。
- 使用者在您的應用程式內提出問題，並接收以ISV、Microsoft或客戶數據源為基礎的解答。
- 從現有的 API 建立客戶連接器，並使用 Copilot Studio 將它轉換成外掛程式，以允許使用自然語言介面從聊天機器人呼叫這些 API。
- 將現有的Power Automate流程轉換成可從 Microsoft copilot 聊天呼叫的外掛程式，以執行動作並擷取資訊。
- 透過Power Platform中的這些連接器，透過 Zendesk、GitHub 和 Salesforce 等企業系統的自然語言介面來存取數據。
合作夥伴優勢：
- 利用現有 Microsoft 和非 Microsoft 連接器的強大功能，以輕鬆增強和擴充您的應用程式。
- 藉由套用Power Platform自定義連接器方法來快速且有效率地整合，以加速外掛程式開發。
- 透過 Copilot Studio的低程式代碼功能來增強時間值。
- 藉由將 AI 功能整合到您的應用程式中，以最少的程式代碼來獲得競爭優勢。
要從何處開始：
- Microsoft Copilot Studio 外掛程式架構 - Microsoft Copilot Studio |Microsoft Learn
- 使用聊天機器人控制件內嵌 Power Virtual Agents 控件 |Microsoft Learn
重要心得：
- Copilot Studio 提供一個平臺來建立低程式碼 AI 應用程式，其可使用以 ISV 數據或函式為基礎的聊天機器人功能來增強現有的應用程式。
- 此平臺同時支持現有的 Power Platform 連接器和自訂連接器，提供整合 ISV 服務和數據源的彈性。
- AI 功能的整合可以大幅改善用戶體驗，並讓您的 app 具有競爭力。
模式 D：在 copilots 中運用 Microsoft 圖形 API
Microsoft 圖形 API 提供強大的端點，可從 Microsoft 365 應用程式存取以使用者為中心的數據，包括行事歷、Bookings、Outlook、Teams、OneDrive、SharePoint 等等。 透過此 API，您可以使用 Microsoft 365 的數據來擴充應用程式，讓用戶能夠衍生更豐富的深入解析和分析。
ISV 案例：
- 使用現有ISV應用程式的客戶和合作夥伴，想要將 Microsoft 使用者中心的 Graph 資料結合在其 copilot 中。
- 具有專案管理應用程式的ISV想要納入 Microsoft 365 行事曆數據和專案檔數據，以協助使用者追蹤應用程式內的期限和里程碑。
- 具有CRM應用程式的ISV想要納入 Microsoft 365 聯繫人和電子郵件數據，以增強客戶配置檔和通訊記錄。
請考慮 Fabrikam，這是一種多功能的人力資源管理 (HCM) 軟體，配備彈性 HR 套件，可順暢地自動化各種工作流程，例如人才取得、員工獎勵管理和意見反應流程。 Fabrikam 在持續創新創新中引進了一項最上層的 Copilot 功能，位於其 HR 套件之上。 現在，他們的目標是藉由整合使用者中心圖形數據，進一步提升其應用程式。 這項增強功能牽涉到使用 圖形 API 來納入員工的行事曆，包括排程逾時和 1：1 等詳細數據，以用於意見反應程式等。
合作夥伴優勢：
- 結合您的數據與 Microsoft 365 Graph，以找出擴充的深入解析。
- 無縫整合：標準化 Microsoft 365 數據的存取，以便與您的應用程式整合。
- 改善的用戶體驗：提供更順暢的用戶體驗，讓您能夠存取應用程式內的相關 Microsoft 365 資料和功能。
- 增強功能：使用 Microsoft 365 資料將新功能新增至您的應用程式。
- 延展性和效率：著重於在 圖形 API 處理數據擷取時建置和改善您的應用程式。
要從何處開始：
重要心得：
- Microsoft 圖形 API 可讓 ISV 使用 Microsoft 365 使用者為中心的數據來擴充其應用程式。
- 透過 Graph API，您可以利用 Microsoft 365 語意索引，這是針對 Copilots 紀元所建置的更進階搜尋體驗。
- 藉由使用 圖形 API，ISV 可以使用更豐富的深入解析和分析來增強其應用程式。
模式 E：使用 Azure OpenAI 助理將 Copilot 體驗帶入您的應用程式
ISV 可以在 Azure 的 AI 服務中採用這種低程式代碼方法，將類似 Copilot 的體驗帶入自己的應用程式。 它提供快速路徑來套用 GPT 的函式 呼叫 來呼叫您自己的 API，只要在 JSON 中描述函式的結構，並提供沙箱化 Python 環境來執行 和執行程式代碼 ，以協助撰寫使用者問題的回應。
這兩個功能在將非語言型挑戰卸除給傳統程式代碼或較適合工作的現有系統時很有用，例如簡單的數學工作。
雖然您沒有系統提示和溫度的直接存取權，但同樣地，您可以透過自定義指示來影響小幫手的行為，而這些指示對您的相似體驗的個人性有重大影響。
合作夥伴優點：
- Azure OpenAI 小幫手提供低程式代碼方法，可讓ISV快速將 AI 功能整合到其應用程式中，而不需要大量開發工作。
要開始的位置：
- 快速入門 - 開始使用 Azure OpenAI Assistants (Preview) - Azure OpenAI |Microsoft Learn
- 如何使用 Azure OpenAI 服務建立小幫手 - Azure OpenAI |Microsoft Learn
重要心得：
- ISV 可以使用 Azure OpenAI Assistants 來建立互動式自然語言介面，以增強用戶參與度。 這些助理只要透過 JSON 描述 API 即可呼叫 API。
- Azure OpenAI 小幫手可以根據使用者的提示，在沙盒中撰寫和執行程式代碼，以解決非 GenAI 問題。
模式 F：使用 Teams AI 連結庫來建置您自己的 Copilot
ISV 也可以使用 Teams AI連結庫 在其現有的Teams聊天機器人中新增自然語言功能。 此連結庫可讓ISV專注於其商業規則，同時使用Teams Scaffolding來處理交談互動。 ISV 可以在 Teams 中呈現聊天機器人，為使用者提供更自然且直覺的方式，以與其應用程式互動。
ISV 案例：
- 終端使用者正在使用Teams，而ISV合作夥伴想要在Teams上呈現其服務或功能，並具有類似Bot的功能。
- 不需要與 Graph 資料整合，ISV 合作夥伴想要專注於服務和商業規則，而不需與 Teams Copilot 功能整合。
- 透過預先建置的 Teams 應用程式範本和內建仲裁安全性功能，ISV 合作夥伴可以輕鬆地將 LLM 功能新增至其現有的聊天機器人。
合作夥伴優點：
- 新增 ChatGPT，例如交談式體驗，並控制 Bot 的提示工程，並重複使用內建的安全性功能。
- 建置在準備好重複使用的功能上，例如
- Teams AI 機制所提供的交談會話歷程記錄。
- 多語言支援。
- 除了OpenAI模型之外，還支援多重大型語言模型。
- 可協助根據使用者意圖對應至動作的動作規劃工具。
- 準備好使用增強機制來變更模型透過參數或系統提示變更回應的方式。
- 額外的原因，可依據您數據上的模型答案。
要開始的位置：
重要心得：
- Team AI 連結庫可讓您輕鬆地在 Teams 中使用 LLM 的強大功能來啟動 ISV 開發的 Bot。
- 它不需要與目前的 Microsoft Copilot 功能整合，可以提供工作導向的體驗。
- 它從工程觀點提供許多可能性，但也準備好使用現成的功能，讓整個開發程式更容易。
如果您想要使用 LLM 在 Teams 中為您的 Bot 提供電源，Teams AI 連結庫是可供您前往的方式。
方法 3：完全控制：建置您自己的 (BYO) 端對端 AI 體驗
ISV 可以使用 Microsoft Copilot Stack 來建置全新的 AI 體驗，作為 Copilot 或智慧型手機助理。 此堆疊中間的ISV會負責 AI 協調流程，其中 Microsoft 提供各種選項，所有選項都會套用 Microsoft 的基礎模型、AI 工具鏈和 AI 基礎結構。
您可以利用語意核心 ，在 Copilots 中建置支援 Microsoft Copilots 的相同 AI 協調流程模式。 它可作為 SDK，您可以直接進行開發。
隨著在堆棧中間建立 Copilot 服務的大部分投資，ISV 可以自由地將此 Copilot 服務連線到各種表面，包括 Teams、Microsoft 365 Copilot、Microsoft Copilot、您自己的應用程式介面、網站、聊天機器人或全部。 基本上，當與應用程式介面整合時， 堆疊頂端 – 這裡所述的所有其他模式也是一個選項。
模式 G：使用 Azure AI Studio 建置您自己的 copilot
Azure AI Studio 是一個適用於ISV的全一平臺，可建置自定義、智慧型助理或 Copilot。 它會結合各種 Azure AI 服務的功能，提供統一的工作區，以開發和部署功能 AI 應用程式。 這是一個共同作業平臺，數據科學家、開發人員和其他項目關係人可以交集並共同作業。
有了 Azure AI Studio，ISV 就能完全控制其合作行為、特質和功能。 無論是從我們的廣泛類別目錄使用現有的預先定型模型、微調數據模型，或訓練您自己的自定義 AI 模型，Azure AI Studio 可加速處理複雜多模式數據的 AI 體驗開發。
Azure AI Studio 的一項獨立功能是其各種模型範圍，與各種產業和使用案例一樣。 它可讓ISV在單一解決方案中結合不同的模型，以符合其獨特需求。
與 Azure AI 搜尋 整合可讓 ISV 針對 Azure AI Studio 非結構化數據直接實作擷取擴增世代 (RAG) 模式，並新增 AI 搜尋 整合向量化功能的優點。 這表示您的 Copilot 需求的任何數據都可以在向量資料庫中自動保持最新狀態，在使用者提示評估期間加速快速且有效率的擷取，並節省您實作索引編製、區塊化、內嵌和向量化模式的工作。
提示流程是 Azure AI Studio 的一項功能，提供可視化的圖表，可協調具有大型語言模型的可執行流程， (LLM) 、提示和 Python 工具。 其可協助您透過小組共同作業輕鬆偵錯、共用和逐一查看您的流程。
對於偏好程式代碼優先方法的ISV小組，Azure AI SDK 提供一套套件來存取 Azure AI 服務，包括設定 Azure AI Studio 專案和相關資源。 這可讓開發人員和數據科學家直接從程式碼管理 AI 元件、設定 AI 模型、管線和服務，同時仍讓圖形化介面可供偏好使用的使用者使用。
原型設計很容易透過其遊樂場 Azure AI Studio。 Azure AI Studio 中工作專案的小組一般旅程，可以從在遊樂場中驗證想法的個人開始。 產生吸引人的結果之後，就可以從遊樂場將他們提示為已設定版本和自定義流程的提示流程。 現在，AI 專案中的版本化成品，更廣泛的小組可以透過 Azure AI Studio UI 和僅限程式代碼來參與流程的存取位置。 此時可以測試及評估不同 LLM 的多個邏輯分支。
除了開發階段之外，Azure AI Studio 也提供 LLMOps 工具鏈，處理從開發到生產環境及持續維護的端對端提示工程。
Azure AI Studio 支援與 Azure AI 搜尋、Azure Open AI Service 和其他 Azure AI 服務的整合，簡化 ISV 的資源管理。 它也會提供項目導向的工作區，以針對共用計算、模型部署和服務促進共同作業。
ISV 案例：
- 醫療保健ISV建置遠端醫療平臺想要瞭解醫療術語、協助醫生診斷病患，並提供相關的治療建議。
- 金融服務服務提供者需要可分析市場趨勢、回答客戶有關投資選項的客戶查詢，以及產生個人化的金融服務。
- 電子學習平臺想要一個操作工具，讓學生學習、說明複雜的概念，並根據個別學習喜好設定調整其教學樣式。
- 保險公司會藉由驗證合約是否可涵蓋目前的宣告，在宣告程式期間加速檔分析。
- 航空公司 Copilot 可協助您規劃旅程、尋找票證和旅館，並在您滿意供應專案後預約。
- 餐廳鏈結正在建立 Copilot 應用程式，協助新員工透過引導他們完成整個程式來上線。
- ISV 為客戶提供 VS Code 擴充功能，以協助開發人員建置與其 API 的整合。
合作夥伴優點：
- 自定義和控制：建置符合您應用程式需求的一般工作。
- 案例彈性：滿足各種案例，從領域特定的共同作業到工作自動化和內容產生。
- 與現有系統整合：連線到資料庫、API 和其他服務，以增強您的 Copilot 功能。
- 品牌身分識別和用戶體驗：塑造您的 Copilot 特質，以配合您的品牌語音並增強用戶體驗。
- 建置體驗：開放原始碼和高度可延伸的 SDK，語意核心可讓您建置可呼叫現有 API 的智慧型手機代理程式。 透過語意核心，您可以使用在自己的應用程式中提供 Microsoft 的 Copilot 的相同 AI 協調流程模式。
- 延展性和部署：跨多個用戶端或應用程式部署您的 Copilot，同時為數千位使用者提供服務。
要開始的位置：
- 什麼是 AI Studio？ - Azure AI Studio |Microsoft Learn
- 在 Azure AI Studio 中使用提示流程建置和部署您自己的 Copilot |Microsoft Learn
- 使用 Azure AI CLI 和 SDK 建置及部署您自己的 Copilot |Microsoft Learn
重要心得：
- Azure AI Studio 提供功能強大的平臺來建立自定義、智慧型助理或 Copilot。
- ISV 可以塑造其 Copilot 的行為、特質和功能，以建立真正獨特的解決方案。
- Azure AI Studio 支援各種不同的案例，並與現有的基礎結構緊密整合。
- 建立具有 Azure AI Studio 的自定義 Copilot 可以增強用戶體驗，併為特定使用案例提供量身訂做的解決方案。
- AI Studio 會提供您一個 copilot 服務 (或後端) ，以單一縮放端點的形式呈現
- ISV 接著有選項可將服務連線到其選擇的應用程式、前端或交談介面，包括上述任何模式。
- 請記住，根據您的特定需求，此模式可以與其他模式結合。 例如，您可能想要將此模式與 Pattern A 和外掛程式配對至 Microsoft Copilot，或 Pattern F 在 Teams 中呈現您自己的 Copilot Bot。
模式 H：使用語意核心建置您自己的 Copilot
語意核心是開放原始碼 SDK，可讓開發人員在其應用程式中建立複雜的 Copilot。 它支援各種程式設計語言，包括 C#、Java 和 Python，使其可供廣泛的開發人員社群存取。 語意核心可讓 AI 外掛程式協調流程，允許與各種 AI 模型整合，包括來自 Azure OpenAI 和 Hugging Face。
語意核心會封裝 Microsoft Copilots AI 協調流程模式的本質，提供開發人員建置 代理程式和Copilot 的工具。
代理程式是 AI 系統，可回答問題並自動執行使用者的程式。 其範圍從簡單的聊天機器人到完全自動化的 AI 助理。 Copilots 是特殊的代理程序類型，可與使用者一起運作。 不同於完全自動化的代理程式，Copilot 會提供建議和建議，讓用戶能夠保留控制權。
外掛程式：這些會為您的代理程式提供技能。 您可以為傳送電子郵件、從資料庫擷取資訊，或尋求協助等工作建立外掛程式。
Planners：代理程式會使用 Planner 來產生完成工作的計劃。 例如，協助使用者撰寫電子郵件的 Copilot 會建立一個計劃，其中包含收集收件者詳細數據及撰寫電子郵件等步驟。
SDK 隨附 VS Code 擴充功能、範例 Chat Copilot 應用程式，但也隨附入門版，提供您一個 Scaffolding 來讓您的想法上線。
您決定開始使用語意核心，建議您先定義幾個功能，再開始程式代碼：
- 首先，定義 Copilot 的角色和行為。
- 針對您的 Copilot 將協助的一般工作建立外掛程式。
- 使用規劃工具來產生 copilot 動作的計劃。
- 規劃徹底測試，以確保精簡的用戶體驗。
- 請確定您能夠收集使用者的意見反應，並在代理程式或 Copilot 的行為中實作。
ISV 案例：
- 您正在建置屬於您自己的應用程式 (客戶開發工具或 HR 系統) 的一部分，而且您希望人員留在相同 UI 的領域。
- 您需要協調流程引擎、RAG 實作、模型選擇和模型參數的完整控制權。
- 透過您的 Copilot 服務，您想要讓客戶透過外掛程式，在解決方案之上建置擴充功能。
- 您的解決方案會利用畫布和其他媒體，而不只是文字。
合作夥伴優點：
- 透過存取 Microsoft 用來建置第一方 Copilots 的意見協調流程引擎，完全控制您的 Copilot 行為。
- 在您自己的企業數據上順暢地建立模型，並使用 Microsoft Fabric OneLake 整合結構化、非結構化和實時數據。 這可讓開發人員採用複雜的混合式和語意搜尋，讓擷取擴充產生 (RAG) 應用程式。
- 使用提示工程和 LLMOps 工具，存取更進階的工具，以精簡 AI 回應，例如提示流程。
要開始的位置：
- GitHub - microsoft/semantic-kernel：快速且輕鬆地將最新 LLM 技術整合到您的應用程式
- 使用語意核心建置代理程式和 Copilot |Microsoft Learn
- 瞭解語意核心和更新版本中的 AI 外掛程式 |Microsoft Learn
重要心得：
- 語意核心是一種意見化的開放原始碼架構，可協助開發人員更輕鬆地將 GenAI 功能建置到其應用程式中
- 它是由 Microsoft 維護及開發，並由第一方小組用來建置 Microsoft Copilot 解決方案。
- 透過一組範例，它可協助您輕鬆地在自己的應用程式堆棧內開始 GenAI 旅程。
- 請記住，根據您的特定需求，此模式可以與其他模式結合。 例如，您可能想要將此模式與 Pattern A 和外掛程式配對至 Microsoft Copilot，或 Pattern F 在 Teams 中呈現您自己的 Copilot Bot。
結論
我們已從案例開始，併為您購買一或多個感興趣的模式，我們已將它收集成三種方法的其中一種。 雖然每個模式都有一些差異，但每個方法都有一些常見的功能：
| 方法 1：將您的數據和服務呈現至 Microsoft 的 Copilots | 方法 2：使用最少編碼和選擇性的 Microsoft 數據整合，在任何地方建立 Copilot | 方法 3：完全控制：建置您自己的 (BYO) 端對端 AI 體驗 | |
|---|---|---|---|
| 開發投入量 | 低 (無/低程序代碼) | 中 (最小程式代碼) | 高 (Pro 程式代碼) |
| 資料來源 | Microsoft Graph (Microsoft/M365 或非 Microsoft 透過連接器) | 各種。 Power Platform 連接器、Microsoft Graph、API。 | 可以跨越 Microsoft 租使用者內部或外部的多個數據源、服務和應用程式 |
| 使用者介面或交談介面 | 由 Copilot 延伸提供，例如 Teams、Microsoft 365 等。 | 依 Microsoft 所提供的方法而有所不同，以攜帶您自己的方法。 | 自備。 使用相同 Copilot 的多個表面 |
| 對 Copilot 語調、行為和模型參數的影響 | 沒有直接控制。 模型參數負責擴充 Copilot。 | 某些影響特別適用於行為和語調，透過構成中繼程式一部分的自定義指示。 使用 Teams AI 連結庫，您可以控制模型參數。 | 直接控制模型參數，例如溫度、系統提示、最大令牌等等。自定義 Copilot 行為。 |
| 支援多模型 | No | No | 是 對相同流程中不同模型的多個呼叫 |
| 模型支援 | 由系統提供 | OpenAI 模型的選擇 | 選擇任何模型 OpenAI 和完整 模型目錄 |
| 負責任的 AI | 由系統提供 | 每個模式中由系統或可運用的選項提供 | 每個模式中平台選項的ISV責任。 |
| 支援聊天記錄 | 由系統提供 | 每個模式中由系統或可運用的選項提供 | 每個模式中平台選項的ISV責任。 |
| 範例案例 | Microsoft Copilots 中的使用者可以執行動作，或從ISV資料和服務取得見解。 | 在現有的 ISV 應用程式介面中引進 GenAI 助理，以對客戶或 ISV 數據產生原因。 在現有的 Microsoft 介面中呈現您自己的 copilot 或 chatbot，例如 Teams，並具有 Microsoft Copilots 的個別身分識別 和體驗。 | 您的客戶和使用者會與您的 品牌和行為完全自定義的通訊互動，這可能會導致多個數據集和連線系統從多種 UI 或對話介面選擇而造成。 |
這些方法是為了增加自定義的可能性，這也需要ISV透過取得的控制來挑選更多責任，並增加整體開發工作。
因此，強烈建議從方法 1 開始，這可能是您初始需求上市最快的方式。 Microsoft 經常發行新的第一方 Copilots。 持續簽入，以查看新的 Copilot 是否可以藉由將數據和服務延伸至使用者，更有效率地解決您的使用者需求。
隨著您的需求逐漸移至方法 2 和 3，因此您需要更多控制和自定義的需求。
此處的例外狀況可能是ISV已在內部具有現有資產的 AI 功能。 例如，已經擁有具有現有 AIOps 程式的 GenAI 小組且已在 Python 或 LangChain 中建立 IP 的 ISV，可能自然更適合使用方法 3。
最後的索引鍵註標是此模式清單不詳盡或互斥。 我們在這裡策劃了一些選取模式，其中我們可以看到ISV的協同作業，而且請務必瞭解它們可以透過各種方式結合，以建立完全符合您需求的解決方案。 例如，使用方法 3 (Patterns G 或 H) 時，您可能需要前端。 在此情況下，您可以使用 (Pattern A) 或 Teams AI Library (Pattern F) 外掛程式。 在規劃 AI 策略時，請務必考慮不同模式之間的協同作業。