Een AI-assistent in uw Blazor-applicatie, niet nog een chatvenster

De meeste medewerkers gebruiken ChatGPT al. Ze kopiëren er een order, een klacht of een stuk contract in, krijgen een antwoord en kopiëren dat terug. Het helpt, maar bedrijfsdata belandt in een tool die niemand beheert, en de assistent weet niets van uw klanten, uw orders of wie wat mag zien.

Een assistent in uw eigen Blazor-applicatie werkt anders. Hij staat naast het scherm waarop de gebruiker werkt, leest data via dezelfde services die de applicatie al gebruikt en ziet alleen wat die gebruiker mag zien.

Wat hij op een gewone werkdag kan

• “Welke orders van klant Novak zijn te laat, en waarom?” De assistent zoekt de orders en leverdata op en antwoordt in twee zinnen, in plaats van dat de gebruiker drie tabellen filtert.
• “Schrijf een conceptantwoord op deze klacht.” Hij leest de klacht en de ordergeschiedenis en maakt een concept dat de gebruiker aanpast en verstuurt.
• “Vat dit contract samen en noem de termijnen.” Hij leest het bijgevoegde document en haalt eruit wat telt, met een verwijzing naar de precieze plek in de tekst.

In alle gevallen beslist de mens. De assistent zoekt en bereidt voor, de gebruiker bevestigt. Dezelfde aanpak in een inbox of helpdesk leest u in E-mails beantwoorden met AI.

Hoe het werkt, in gewone woorden

1. 1De gebruiker vraagt op het scherm
2. 2Het model bepaalt welke data het nodig heeft
3. 3Uw services halen die op, met de rechten van de gebruiker
4. 4Het antwoord verschijnt terwijl het wordt geschreven

Het kernidee is dat het model nooit zelf de database in gaat. U geeft het “tools”, gewone methoden van uw bestaande services, en alleen die mag het aanroepen. Wil het de te late orders, dan roept het OrderService aan, en OrderService controleert de rechten precies zoals bij elk ander scherm.

Hoe het eruitziet in .NET

In .NET bouwt u dit met Microsoft.Extensions.AI, dat één interface IChatClient biedt voor Azure OpenAI en andere modellen. De client wordt één keer geregistreerd, met automatisch aanroepen van tools. De applicatie meldt zich bij Azure aan met haar eigen managed identity, dus er staat geen API-sleutel in de configuratie:

builder.Services.AddSingleton<IChatClient>(
    new ChatClientBuilder(
            new AzureOpenAIClient(new Uri(endpoint), new DefaultAzureCredential())
                .GetChatClient(deployment).AsIChatClient())
        .UseFunctionInvocation()
        .Build());

Het Blazor-component, in de modus Interactive Server, geeft het model één tool en toont het antwoord terwijl het binnenkomt:

@inject IChatClient Chat
@inject OrderService Orders
@inject AuthenticationStateProvider Auth

<textarea @bind="question"></textarea>
<button @onclick="AskAsync">Ask</button>
<p>@answer</p>

@code {
    private string question = "";
    private string answer = "";

    private async Task AskAsync()
    {
        var user = (await Auth.GetAuthenticationStateAsync()).User;
        var options = new ChatOptions
        {
            Tools = [AIFunctionFactory.Create(
                (string customer) => Orders.GetLateOrdersAsync(customer, user),
                "get_late_orders",
                "Returns late orders for a customer that the current user is allowed to see")]
        };

        answer = "";
        await foreach (var update in Chat.GetStreamingResponseAsync([new ChatMessage(ChatRole.User, question)], options))
        {
            answer += update.Text;
            StateHasChanged();
        }
    }
}

GetLateOrdersAsync krijgt de ingelogde gebruiker mee, dus de assistent kan nooit meer zien dan die gebruiker op welk ander scherm dan ook zou zien. Dat is dezelfde regel als in de Blazor-beveiligingschecklist: rechten horen in de service, niet in het scherm en niet in de prompt.

Een prototype in een dag, productie in weken

Microsoft heeft een template AI Chat Web App (dotnet new aichatweb). Die maakt een Blazor Interactive Server-applicatie met een kant-en-klare chatinterface die vragen beantwoordt uit documenten die u in een map zet. Een uitstekende manier om de directie in één dag te laten zien hoe een assistent eruitziet op uw eigen documenten.

Maar het is een prototype, geen productie. Voor echt gebruik zijn nog uw rechten, uw databronnen, logging en kostenbeheersing nodig.

Regels voor productie

• De assistent ziet alleen wat de gebruiker ziet. Elke tool roept uw services aan met de ingelogde gebruiker, en de service controleert de rechten.
• Elke actie wordt door een mens bevestigd. De assistent mag een e-mail, een orderwijziging of een creditnota voorbereiden, maar de gebruiker klikt op verzenden.
• Sleutels en model blijven op de server. Nog een reden om het assistentscherm in de modus Interactive Server te draaien in plaats van WebAssembly, zoals uitgelegd in Blazor Server vs WebAssembly vs Auto.
• Alles wordt gelogd en bewaakt. Microsoft.Extensions.AI ondersteunt OpenTelemetry, dus vragen, tool-aanroepen en responstijden komen in dezelfde monitoring als de rest van de applicatie.
• Kosten hebben een grens. Een limiet per gebruiker en per dag, en een blik op welke vragen het duurst zijn.
• Data blijft waar ze hoort. Volgens Microsoft zijn prompts en antwoorden in Azure OpenAI niet toegankelijk voor OpenAI en worden ze niet gebruikt om modellen te trainen. Bij een regionale deployment worden ze verwerkt in de geografie die u kiest, terwijl Global- en Data Zone-deployments ze breder kunnen verwerken, dus kies het deploymenttype bewust.

Waar te beginnen

Kies één scherm en één soort vraag die uw team elke dag stelt en die nu meerdere klikken of een telefoontje kost. Bouw de assistent alleen daarvoor, meet hoeveel tijd hij bespaart en breid pas dan uit. Een breder beeld van welke AI-functies zich in .NET-applicaties terugverdienen, leest u in het artikel over AI in een bestaande .NET-applicatie.

Hoe wij werken

Precies dit doen wij: wij brengen AI in bedrijfsprocessen, ook als assistent in bestaande Blazor- en .NET-applicaties, met rechten, bevestiging door een mens en kostenbeheersing vanaf de eerste dag. Wij beginnen met één scherm en één meetbare besparing. Meer over ons werk met AI, en de eerste stap is een gratis gesprek van 30 minuten.

Bronnen

• Microsoft.Extensions.AI libraries, Microsoft Learn
• Invoke .NET functions using an AI model, Microsoft Learn
• Build an AI chat app with .NET, Microsoft Learn
• Create a .NET AI app using the AI app template, Microsoft Learn
• Data, privacy and security for Azure OpenAI, Microsoft Learn