Implementing AI Agents and Copilots using Azure OpenAI (IAIACOIA) – Details

Detaillierter Kursinhalt

Modul 1: Entwicklung generativer KI-Lösungen mit Azure OpenAI Service

Erste Schritte mit Azure OpenAI Service

• Access Azure OpenAI Service
• Use Azure OpenAI Studio
• Erforschung der Arten von generativen AI-Modellen
• Einsatz von generativen KI-Modellen
• Abschlüsse vs. Chat
• Verwenden Sie Aufforderungen, um Vervollständigungen von Modellen zu erhalten
• Testen Sie Modelle in den Spielwiesen von Azure OpenAI Studio

Erstellen Sie natürlichsprachliche Lösungen mit Azure OpenAI Service

• Integrieren Sie Azure OpenAI in Ihre Anwendung
• Use Azure OpenAI REST API
• Use Azure OpenAI SDK

Promptes Engineering mit Azure OpenAI Service anwenden

• Verstehen Sie promptes Engineering
• Effektivere Prompts schreiben
• Zero-Shot- vs. Few-Shot-Lernen
• Gedankenkettenanregung
• Bereitstellung von Kontext zur Verbesserung der Genauigkeit
• System Messages
• Funktion Aufrufen

Code mit Azure OpenAI Service generieren

• Code aus natürlicher Sprache konstruieren
• Vervollständigung des Codes und Unterstützung des Entwicklungsprozesses
• Behebung von Fehlern und Verbesserung Ihres Codes

Bilder generieren mit Azure OpenAI Service

• Was ist DALL-E?
• DALL-E im Azure OpenAI Studio erforschen
• Verwenden Sie die Azure OpenAI REST API, um DALL-E-Modelle zu nutzen

Implementierung von Retrieval Augmented Generation (RAG) mit Azure OpenAI Service

• Verstehen Sie Retrieval Augmented Generation (RAG) mit Azure OpenAI Service
• Fügen Sie Ihre eigene Datenquelle hinzu
• Chatten Sie mit Ihrem Modell anhand Ihrer eigenen Daten

Grundlagen einer verantwortungsvollen generativen KI

• Planen Sie eine verantwortungsvolle generative KI-Lösung
• Mögliche Schäden identifizieren
• Potenzielle Schäden messen
• Mögliche Schäden abmildern
• Betreiben Sie eine verantwortungsvolle generative KI-Lösung

Modul 2: Entwicklung eigener Copiloten mit Azure AI Studio

Einführung in Azure AI Studio

• Zentrale Funktionen und Möglichkeiten von Azure AI Studio
• Azure AI Hubs & Projekte
• Bereitstellung und Verwaltung von Azure AI-Ressourcen
• Azure AI Studio: Anwendungsfälle und Szenarien

Erstellen Sie eine RAG-basierte Copilot-Lösung mit Ihren eigenen Daten mit Azure AI Studio

• Identifizieren Sie die Notwendigkeit, Ihr Sprachmodell mit Retrieval Augmented Generation (RAG) zu fundieren
• Indizieren Sie Ihre Daten mit Azure AI Search, um sie für Sprachmodelle durchsuchbar zu machen
• Erstellen Sie einen Kopiloten mit RAG auf Ihren eigenen Daten im Azure AI Studio
• RAG in Prompt Flow verwenden

Einführung in die Entwicklung von Copiloten mit Prompt Flow im Azure AI Studio

• Prompt-Flow Überblick, Integration und Anwendungsfälle
• Verstehen der Grundlagen des Prompt Flow und der Kernkomponenten
• Prompt-Ablaufvarianten verwenden
• Verstehen des Entwicklungszyklus bei der Erstellung von Sprachmodellanwendungen.
• Verwendung von LangChain in Prompt Flow

Integrieren Sie ein fein abgestimmtes Sprachmodell in Ihren Copiloten im Azure AI Studio

• Feinabstimmung Übersicht
• Wann ist die Feinabstimmung sinnvoll?
• Feinabstimmung eines Sprachmodells im Azure AI Studio

Bewerten Sie die Leistung Ihres benutzerdefinierten Copiloten im Azure AI Studio

• Bewertung der Modellleistung
• Verstehen der Modell-Benchmarks
• Verwendung von Bewertungen zur Überwachung und Verbesserung Ihres Modells

Modul 3: Entwicklung von KI-Agenten mit Azure OpenAI und dem Semantic Kernel SDK

Erstellen Sie Ihren Kernel

• Den Zweck des Semantic Kernel verstehen
• Verstehen der Grundlagen des Promptens und der Techniken für effektivere Prompts
• Verwendung von OpenAI, Azure OpenAI und grossen Sprachmodellen von Drittanbietern

Verleihen Sie Ihrem KI-Agenten mit nativen Funktionen Fähigkeiten

• Verstehen der nativen Funktionen im Semantic Kernel SDK
• Implementierung nativer Funktionen mit Prompts
• Verwendung von yaml-basierten Prompts
• Verkettung nativer Funktionen
• Verwendung von Vor- und Nachhaken

Plugins für den Semantischen Kernel erstellen

• Verstehen des Zwecks von Semantic Kernel Plugins
• Eingebaute Plugins (ConversationSummary, FileIO, Http, Math, Time)
• Implementierung von Plugins für Datenabruf und Aufgabenautomatisierung
• Persistieren von Daten mit Plugins

Bereitstellung von Status und Historie über den Kernelspeicher

• Den Zweck des Kernelspeichers verstehen
• Semantischer Kernel-Speicher: Prozessbegleitend & Konnektoren
• Hochleistungsspeicher mit Azure Cosmos DB DiskANN
• Kernel-Speicher & Retrieval Augmented Generation (RAG)
• Streaming von Antworten auf einseitige Anwendungen

Intelligente Planer verwenden

• Die Planer im Semantic Kernel SDK verstehen
• Verwendung und Optimierung von Planern zur Automatisierung von Funktionsaufrufen
• Erfahren Sie, wie Sie mit dem Semantic Kernel SDK automatisch Funktionen aufrufen können
• Funktionsaufruf als Planer-Ersatz
• Automatischer vs. manueller Funktionsaufruf
• Verwendung von Funktionsfiltern und Funktionsaufrufhelfern

Integration von KI-Diensten mit semantischem Kernel

• Text zu Bild & Bild zu Text
• Audio in Text verwenden
• Umarmendes Gesicht mit semantischem Kernel verwenden
• Integration von Prompt-Flow mit semantischem Kernel

Implementierung von Copiloten und Assistenten mit Semantic Kernel

• Assistent Überblick
• OpenAI-Assistent Spezifikation
• Erledigung von Mehrschrittaufgaben mit dem Assistenten
• Verwendung von Personas mit Assistant
• Implementierung von Multi-Assistent-Lösungen

Modul 4: Überwachung und Bereitstellung von LLM-Anwendungen

• Verstehen des Bereitstellungsprozesses für LLM-Anwendungen
• Einführungen in Azure Container Apps
• Bereitstellung von LLM-Anwendungen in Azure Container Apps
• Azure OpenAI Apps mit Azure Container Apps skalieren
• Azure Container Apps Dynamische Sitzungen
• Überwachung und Verwaltung von LLM-Anträgen