Azure AI Foundry für die KI-Funktionen in Opti.Tax einrichten

In diesem Artikel wird beschrieben, wie Sie eine Microsoft-Foundry-Ressource erstellen und ein KI-Modell bereitstellen um diese als KI-Anbieter in Opti.Tax einzurichten und die benötigten Modelle den jeweiligen Anwendungsfällen zuordnen.

Ausgangszustand

Wenn bisher noch keine KI-Einstellungen vorgenommen wurden, sind zunächst keine Zugangsdaten oder Bereitstellungen hinterlegt.

1.Voraussetzungen

Öffnen Sie zunächst das Azure Portal und melden Sie sich mit Ihrem Azure-Konto an. 

Haben Sie bereits ein KI-Model bereitgestellt, springen Sie zu Schritt 7.

Für die Erstellung der Foundry-Ressource benötigt das Benutzerkonto:

• ein Azure-Konto mit einem aktiven Azure-Abonnement im passenden Microsoft-Entra-Verzeichnis (Mandanten/Tenant),

• Berechtigungen zum Erstellen von Azure-Ressourcen auf Abonnement- oder Ressourcengruppenebene.

Dafür genügt beispielsweise die Azure-Rolle Contributor oder Owner. Alternativ kann eine benutzerdefinierte Rolle verwendet werden, die mindestens die Aktion Microsoft.CognitiveServices/accounts/write enthält. Ein Globaler Administrator ist für die Erstellung der Ressource nicht erforderlich.

Falls die erforderliche Berechtigung fehlt oder der benötigte Azure-Ressourcenanbieter noch nicht registriert ist, muss ein entsprechend berechtigter Azure-Administrator unterstützen.

Wichtig: Berechtigungen für die Entwicklung

Die Azure-Rollen Contributor und Owner gewähren zwar die erforderlichen Verwaltungsberechtigungen, enthalten aber nicht automatisch die Entwicklungsberechtigungen für Microsoft Foundry.

Wenn Sie nach der Einrichtung auch in Foundry entwickeln, testen oder entsprechende Funktionen nutzen möchten, benötigen Sie zusätzlich beispielsweise die Rolle Foundry User. Alternativ kommen je nach gewünschtem Berechtigungsumfang Foundry Project Manager oder Foundry Owner infrage.

Weitere Informationen finden Sie in der Microsoft-Dokumentation zu RBAC in Microsoft Foundry.

2. Microsoft Foundry öffnen

1. Öffnen Sie das Azure Portal.

2. Suchen Sie nach Foundry.

3. Öffnen Sie Microsoft Foundry bzw. Foundry.

Wählen Sie anschließend Create a Resource.

3. Foundry-Ressource erstellen

Füllen Sie die Angaben wie folgt aus:

Subscription

Wählen Sie das Azure-Abonnement aus, über das die Ressource abgerechnet werden soll.

Resource group

Wählen Sie eine vorhandene Ressourcengruppe aus oder erstellen Sie eine neue.

Name

Vergeben Sie einen eindeutigen Namen für die Foundry-Ressource.

Beispiel:

firmennameazureai

Hinweis: Der Ressourcenname kann später Bestandteil des Azure-Endpunkts sein. Da dieser Endpunkt anschließend in Opti.Tax hinterlegt wird, empfehlen wir einen eindeutigen und verständlichen Namen.

Region

Wählen Sie eine europäische Azure-Region, die für Ihre Anforderungen und das gewünschte Modell geeignet ist.

Beispielsweise kommen infrage:

• (Europe) Sweden Central

• (Europe) France Central

• (Europe) Germany West Central

Welche Modelle in welcher Region verfügbar sind, hängt vom jeweiligen Modell und vom verwendeten Bereitstellungstyp ab. Prüfen Sie daher bei Bedarf die aktuelle Microsoft-Übersicht zur Modell- und Regionsverfügbarkeit.

Wichtig: Achten Sie auf eine europäische Region bzw. bei der Modellbereitstellung auf einen für Ihre Datenschutzanforderungen geeigneten europäischen Bereitstellungstyp.

Default project name

Der vorgeschlagene Projektname kann in der Regel übernommen werden.

Bei Bedarf können später weitere Projekte angelegt werden.

4. Ressource erstellen

1. Klicken Sie auf Review + create.

2. Warten Sie, bis die Validierung erfolgreich abgeschlossen wurde.

3. Klicken Sie anschließend auf Create.

Alternativ können Sie über Next durch die einzelnen Reiter wechseln und weitere Einstellungen vornehmen. Für die Verwendung mit Opti.Tax sind die Standardeinstellungen in der Regel ausreichend.

Die Bereitstellung der Ressource kann einige Zeit in Anspruch nehmen. Warten Sie, bis die Bereitstellung abgeschlossen ist.

Klicken Sie anschließend auf:

Go to resource

und danach auf:

Go to Foundry portal

Sie befinden sich nun in Microsoft Foundry.

5. KI-Modell bereitstellen

Öffnen Sie in Microsoft Foundry den Bereich für die Bereitstellungen bzw. Deployments.

Wählen Sie:

Bereitstellung anzeigen

Bereitstellen → Basismodell bereitstellen

Anschließend können Sie das gewünschte Basismodell auswählen.

Welches Modell soll verwendet werden?

Für Opti.Tax genügt in der Regel ein aktuelles leistungsfähiges GPT-Modell.

Beispielsweise steht aktuell gpt-6-luna zur Verfügung. Die konkrete Modellverfügbarkeit kann sich jedoch abhängig von Region, Abonnement und Bereitstellungstyp ändern.

Wählen Sie das Modell aus, das für Ihre Opti.Tax-Umgebung vorgesehen ist.

---

6. Bereitstellung konfigurieren

Nach Auswahl des Modells öffnen Sie die benutzerdefinierten Einstellungen bzw. Custom settings.

Bereitstellungsname

Übernehmen Sie nach Möglichkeit den vorgeschlagenen Bereitstellungsnamen.

Alternativ können Sie einen eigenen Namen vergeben.

Wichtig: Der Bereitstellungsname (Deployment Name) wird später in den Opti.Tax-Einstellungen benötigt.

Er kann vom technischen Modellnamen abweichen.

Beispiel:

• Modell: gpt-6-luna

• Bereitstellungsname: gpt6-luna-optitax

In Opti.Tax muss in diesem Fall gpt6-luna-optitax als Bereitstellungsname verwendet werden – nicht gpt-6-luna.

Bereitstellungstyp

Wählen Sie – sofern für das gewünschte Modell verfügbar und für Ihre Datenschutzanforderungen passend – Data Zone Standard bzw. Datenzonenstandard.

Bei Data Zone Standard wird die Verarbeitung innerhalb der jeweiligen Datenzone durchgeführt. Für europäische Anforderungen ist insbesondere die EU Data Zone relevant. Microsoft weist darauf hin, dass die Verfügbarkeit der verschiedenen Bereitstellungstypen vom jeweiligen Modell abhängt.

Hinweis: Die Auswahl des Bereitstellungstyps ist für Datenschutz- und Compliance-Anforderungen relevant. Prüfen Sie deshalb vor der Bereitstellung die für Ihr Unternehmen geltenden Vorgaben.

Ratenlimit

Setzen Sie das Ratenlimit zunächst möglichst hoch bzw. auf den maximal verfügbaren Wert.

Sollte das anfängliche Limit für Ihre Nutzung nicht ausreichen, kann die Nutzung zunächst mit dem verfügbaren Limit gestartet werden. Bei Bedarf können anschließend höhere Kapazitäten bzw. Limits beantragt oder verfügbar werden.

Klicken Sie anschließend auf:

Bereitstellen

bzw. Deploy.

Warten Sie, bis die Bereitstellung erfolgreich abgeschlossen wurde.

7. Zugangsdaten in Azure AI Foundry ermitteln

Die benötigten Werte finden Sie direkt in Azure AI Foundry.

Wählen Sie in der Modellübersicht das gewünschte Modell aus und klicken Sie auf „Endpunkt anzeigen“. Dort werden alle Informationen angezeigt, die Sie für die Einrichtung in Opti.Tax benötigen:

• Schlüssel → in Opti.Tax als API-Schlüssel eintragen
• Endpunkt → in Opti.Tax als Azure-Endpunkt eintragen
• Bereitstellungsname → entspricht dem in Azure selbst vergebenen Namen der jeweiligen Modellbereitstellung

Für unterschiedliche Anwendungsfälle können verschiedene Modelle beziehungsweise Bereitstellungen verwendet werden.

8. Verbindung zu Azure prüfen

Nachdem Sie den API-Schlüssel und den Azure-Endpunkt eingetragen haben, können Sie die Zugangsdaten direkt über den entsprechenden Verbindungstest prüfen.

Die beiden unterstützten textbasierten Anwendungsfälle werden automatisch vorbelegt. Sie müssen anschließend lediglich den jeweiligen Bereitstellungsnamen aus Azure eintragen.

9. Bereitstellung für „Chat“ testen

Für den Anwendungsfall „Chat“ steht ein zusätzlicher Verbindungstest zur Verfügung.

Damit können Sie prüfen, ob die angegebene Modellbereitstellung unter dem eingetragenen Bereitstellungsnamen erreichbar ist und verwendet werden kann.

10. Spracheingabe und -ausgabe

Die Spracheingabe wird derzeit nur über klassische Azure-OpenAI-Endpunkte unterstützt.

Bei Azure-AI-Foundry-Endpunkten steht diese Funktion aktuell noch nicht zur Verfügung.

Wenn Sie in Opti.Tax Spracheingabe und Sprachausgabe verwenden möchten, können Sie alternativ oder zusätzlich OpenAI als weiteren Anbieter einrichten. Siehe Wie wird der ChatGPT-Token erstellt und in Opti.Tax eingetragen?

Die Anbieter lassen sich für die verschiedenen Funktionen frei kombinieren. Beispielsweise können die textbasierten KI-Funktionen über Azure AI Foundry und die Sprachfunktionen über OpenAI bereitgestellt werden.

Hinweis: Wenn Sie mehrere Anbieter kombinieren, werden eingegebene beziehungsweise gesprochene Inhalte nicht ausschließlich bei einem einzigen Provider verarbeitet. Berücksichtigen Sie dies insbesondere im Hinblick auf Ihre Datenschutz- und Compliance-Anforderungen.

Welche Anwendungsfälle benötigt Opti.Tax?

Opti.Tax verwendet hauptsächlich die folgenden beiden Anwendungsfälle:

• Chat
• Komplexe Aufgaben

Die Spracheingabe und Sprachausgabe sind optional und werden für die grundlegende Nutzung der KI-Funktionen nicht benötigt.