Azure AI Foundry - jak wdrożyć AI w firmie bez wojny z IT i prawnikiem

Kiedy pierwszy raz próbowałem wdrożyć model językowy w środowisku firmowym, spędziłem trzy tygodnie na próbach ogarnięcia zgodności z RODO, przechowywania danych w UE i bezpieczeństwa API. Na koniec okazało się, że testy prompt injection obnażyły luki, których nikt nie przewidział. Gdybym wtedy wiedział o Azure AI Foundry, zaoszczędziłbym większość tego czasu.

W tym artykule pokażę Ci, czym właściwie jest Azure AI Foundry, czym różni się od zwykłego API OpenAI, co możesz tam zbudować, ile to kosztuje i kiedy warto - a kiedy lepiej poszukać czegoś innego.

Czytanie: ~13 min

Czym właściwie jest Azure AI Foundry (i skąd ta nazwa)

Azure AI Foundry to platforma Microsoftu do budowania aplikacji AI. Słowem, które tu się liczy, jest "platforma" - bo to nie jest jeden produkt. To zbiór usług, modeli i narzędzi połączonych w jedno miejsce z jednym interfejsem.

Historia jest trochę zagmatwana, warto to wyjaśnić od razu, bo inaczej pogubisz się w nazwach. Microsoft miał:

Azure Cognitive Services (analiza tekstu, obrazu, mowy)
Azure OpenAI Service (modele GPT przez API Azure)
Azure AI Studio (eksperymentalna platforma, zapowiedziana w 2023)
Bot Framework, Language Studio, Speech Studio

W 2024 roku Microsoft postanowił to wszystko połączyć. Powstała Azure AI Foundry, z jednym interfejsem (Foundry Studio), jednym SDK i jednym katalogiem modeli. Nazwa "Foundry" (odlewnia) ma sugerować miejsce, gdzie odlewasz swój produkt AI od surowca do gotowego elementu.

Ta konsolidacja ma sens. Przedtem, żeby zbudować prostego chatbota z RAG, musiałeś łączyć pięć różnych usług z pięcioma różnymi konfiguracjami. Teraz robisz to w jednym miejscu.

Co znajdziesz w środku - katalog, studio, SDK

Azure AI Foundry składa się z trzech warstw. Warto je rozróżnić, bo każda jest dla kogoś innego.

Modele - nie tylko OpenAI

Katalog modeli to pierwsza rzecz, którą zobaczysz po zalogowaniu do Foundry Studio. I tu jest największa różnica w stosunku do konkurencji: nie jesteś zamknięty na jednego dostawcę.

Co tam znajdziesz:

Modele OpenAI: GPT-4o, GPT-4 Turbo, o1, o3, mini, embeddingi - pełna rodzina
Modele Microsoftu: Phi-3, Phi-4 - małe, szybkie, świetne do edge cases
Modele Mistral: Mistral Large, Mixtral - europejska alternatywa
Modele Meta: Llama 3.1, Llama 3.3 - open-source na infrastrukturze Azure
Cohere: Command R+ - zoptymalizowany pod RAG
Tysiące modeli z Hugging Face przez integrację z HF Hub

Dlaczego to ważne? Bo różne zadania potrzebują różnych modeli. GPT-4o jest świetny do trudnych zadań reasoningowych. Phi-3 mini kosztuje ułamek ceny i wystarcza do klasyfikacji tekstu. Llama 3.1 możesz fine-tunować na własnych danych bez obaw o licencję. W jednym projekcie używałem trzech modeli naraz - Phi-3 do klasyfikacji, GPT-4o do reasoningu, embeddingi OpenAI do RAG. Wszystko w jednej platformie.

Azure AI Foundry Studio - interfejs

Foundry Studio to webowy interfejs. Działa w przeglądarce, wygląda jak połączenie ChatGPT z dashboardem deweloperskim. Co tam zrobisz:

Wypróbujesz modele w playgroundzie (jak w ChatGPT, ale z możliwością ustawienia temperature, system prompt, narzędzi)
Zbudujesz prompt flow wizualnie - klocki z Inputs, LLM, Tools, Outputs
Stworzysz indeks wyszukiwania dla RAG (integracja z Azure AI Search)
Skonfigurujesz fine-tuning na własnych danych
Uruchomisz ewaluację modelu na zestawie testowym
Wdrożysz model jako endpoint HTTP

Przez pierwszy miesiąc pracy z Foundry nie pisałem kodu. Wszystko robiłem w Studio - testowałem prompty, porównywałem modele, budowałem prototypy. Dopiero jak wiedziałem, co chcę, siadałem do SDK. To dobra kolejność: najpierw playground, potem kod.

SDK i API

Gdy chcesz zintegrować model z własną aplikacją, masz do wyboru:

Azure AI Foundry SDK dla Pythona i JS/TS - jeden pakiet do wszystkich modeli i usług
REST API - jeśli chcesz coś w innym języku
OpenAI SDK - modele OpenAI na Azure działają ze standardowym OpenAI SDK, tylko zmieniasz base_url i api_key. To wielki plus - migracja z OpenAI na Azure to przypisanie dwóch zmiennych środowiskowych.

W SDK znajdziesz też abstrakcje wyższego poziomu: ChatCompletionsAgent, AzureAISearchTool, BingGroundingTool. Te klasy oszczędzają setki linii kodu, jeśli budujesz agenta z narzędziami.

Czym się różni od zwykłego OpenAI API

Pytanie, które dostaję najczęściej: "skoro mogę wywoływać GPT-4 przez API OpenAI, po co mi Azure?".

Różnice są realne, ale zależą od tego, kim jesteś.

Dostępność modeli. Przez API OpenAI dostajesz tylko modele OpenAI. Przez Azure masz OpenAI + Mistral + Llama + Phi + Cohere + HF. Czasem potrzebujesz czegoś, co nie jest od OpenAI.

Data residency. OpenAI ma serwery w USA. Azure ma regiony na całym świecie, w tym w Polsce (Poland Central). Dla firm, które muszą trzymać dane w UE (GDPR + decyzje wewnętrzne), to bywa deal-breaker.

Enterprise security. Azure integruje się z Microsoft Entra ID (dawniej Azure AD), RBAC, Private Endpoints, VNet, Managed Identity. To znaczy: możesz postawić model w sieci wewnętrznej firmy, bez publicznego internetu. OpenAI tego nie oferuje.

Compliance i certyfikaty. Azure ma certyfikaty ISO 27001, SOC 2, HIPAA, a w UE - dodatkowo zgodność z GDPR na poziomie umowy. Dla banków, ubezpieczeń, zdrowia - to wymóg, nie nice-to-have.

Content filtering i safety. Azure ma wbudowane filtry content filtering, które możesz konfigurować. Masz prompt shields (ochrona przed prompt injection), groundedness detection (czy model halucynuje), copyright protection. W OpenAI masz basic moderation i koniec.

SLA i support. Azure oferuje SLA na poziomie 99,9% i support enterprise (24/7, dedykowany inżynier). OpenAI support bywa powolny.

Cena. Tu OpenAI zwykle wygrywa. Te same modele na Azure są droższe o 10-30%, a do tego dochodzi koszt Azure AI Search, storage, bandwidth. Ale dostajesz enterprise features, które w OpenAI nie istnieją w ogóle.

Krótko: jeśli jesteś startupem bez wymogów compliance - bierz OpenAI direct. Jeśli jesteś firmą z działem prawnym i bezpieczeństwa - Azure zamyka połowę pytań z ich strony.

Pięć rzeczy, które możesz tam zbudować

Platforma to jedno, ale co konkretnie zrobisz? Oto pięć typowych zastosowań, które realnie widziałem w projektach.

Chatboty i agenci

Najczęstszy przypadek. Budujesz chatbota, który ma dostęp do wiedzy firmy. W Azure AI Foundry zrobisz to tak:

Łączysz model (GPT-4o albo Mistral Large) z Azure AI Search (indeksem Twoich dokumentów)
Dodajesz narzędzia: Bing grounding (wyszukiwarka), function calling (Twoje API), code interpreter
Konfigurujesz system prompt, temperature, max tokens
Wdrażasz jako endpoint HTTP albo przez Bot Framework do Teams/Slack

W 2025 roku Microsoft dodał Azure AI Agent Service, który upraszcza to jeszcze bardziej. Piszesz "agent ma X, Y, Z", a platforma zajmuje się memory, planning, narzędziami.

RAG nad dokumentami firmy

Retrieval-Augmented Generation to dziś chleb powszedni. Pytasz "jakie mamy zasady urlopowe?" - model szuka w dokumentach HR i odpowiada z cytatami.

W Azure AI Foundry zbudujesz RAG w 30 minut:

Wrzucasz dokumenty do Azure Blob Storage
Foundry automatycznie je dzieli na fragmenty i tworzy dla nich wektory
Powstaje indeks w Azure AI Search
Łączysz z modelem GPT-4o

Największa przewaga Azure: indeks może być prywatny, z RBAC. User widzi tylko dokumenty, do których ma uprawnienia. W OpenAI direct to bywa problem.

Fine-tuning modeli

Czasem prompt engineering i RAG nie wystarczają. Potrzebujesz modelu, który "czuje" Twój domain. Fine-tuning.

Możesz fine-tunować:

Modele OpenAI (GPT-4o mini, GPT-4)
Modele Meta Llama
Modele Phi (Microsoft, świetne do fine-tuningu, bo małe)

Azure oferuje serverless fine-tuning - wrzucasz dataset JSONL, klikasz "Train", czekasz kilka godzin, masz wytrenowany model jako endpoint. Bez zarządzania GPU, bez infrastruktury.

Ważne: fine-tuning to nie jest panaceum. 80% przypadków da się załatwić lepiej prompt engineeringiem albo RAG. Fine-tuning bierz, gdy model realnie nie rozumie Twojego żargonu albo formatu wyjścia.

Computer vision i speech

Foundry to nie tylko tekst. Dostępne usługi:

Vision: GPT-4o analizuje obrazy, ale masz też Florence-2 do specjalistycznych zadań (OCR, object detection, image captioning)
Speech: text-to-speech (neural voices, świetna jakość), speech-to-text (Whisper, obsługiwane 100+ języków), translation
Language: sentiment analysis, NER, summarization, translation

W projekcie dla firmy logistycznej używałem OCR z Florence-2 do wyciągania danych z listów przewozowych. 95% accuracy vs 70% w Tesseract.

Content moderation i safety

Azure AI Foundry ma sekcję "Safety + Security". Znajdziesz tam:

Prompt Shields: ochrona przed prompt injection (user wpisuje "ignoruj poprzednie instrukcje...")
Groundedness detection: czy odpowiedź modelu jest poparta źródłami, czy halucynuje
Content filters: konfigurowalne filtry hate, sexual, violence, self-harm
Copyright protection: sprawdza, czy output nie łamie praw autorskich

Dla firmy, która publikuje treści generowane przez AI (posty, artykuły, opisy produktów), to oszczędza prawniczych nerwów.

Bezpieczeństwo i compliance - największa przewaga

Tu Azure oddziela się od konkurencji najbardziej. Krótki przegląd tego, co masz do dyspozycji:

Microsoft Entra ID (dawniej Azure AD). Integracja z firmowym Active Directory. User loguje się do Twojego chatbota swoim firmowym kontem Microsoft, nie nowym hasłem.

RBAC (Role-Based Access Control). Definiujesz role: admin, developer, user, viewer. Każdy widzi tylko to, co mu wolno.

Private Endpoints. Model żyje w Twoim VNet, niedostępny z publicznego internetu. Aplikacja w tej samej sieci woła go przez private IP.

Managed Identity. Brak haseł w kodzie. Aplikacja autoryzuje się do modelu używając tożsamości zarządzanej przez Azure.

Data residency. Wybierasz region (np. West Europe, Poland Central). Dane zostają tam. Microsoft nie używa Twoich danych do trenowania swoich modeli - to jest w umowie.

Audit logs. Każde wywołanie modelu logowane w Azure Monitor. Audytor widzi, kto, kiedy, co pytał.

Certyfikaty. ISO 27001, SOC 1/2/3, HIPAA, FedRAMP, GDPR, polskie KRI (na poziomie chmury).

Dla banku, z którym pracowałem, ta lista była rozstrzygająca. Dział bezpieczeństwa zaakceptował Azure AI Foundry po 2 tygodniach. W przypadku OpenAI direct - po 6 miesiącach nadal czekałem na decyzję.

Ile to kosztuje - pricing

Azure AI Foundry ma złożony pricing, bo składa się z wielu usług. Najważniejsze elementy:

Modele pay-as-you-go (per 1M tokenów):

GPT-4o: ~2,50$ input / 10$ output
GPT-4o mini: ~0,15$ input / 0,60$ output
Phi-3 mini: ~0,10$ input / 0,40$ output
Llama 3.1 70B: ~0,70$ input / 0,90$ output
Embeddingi: ~0,10$ per 1M tokenów

Provisioned Throughput Units (PTU). Jeśli masz duży ruch, kupujesz z góry zdolność modelu. Działa jak dedykowany serwer. Tańsze przy skali, ale płacisz stałą kwotę niezależnie od użycia.

Azure AI Search. Od ~75$/miesiąc (basic tier) do tysięcy za high-scale production. Dla RAG nad 100k dokumentów - ~250$/miesiąc.

Fine-tuning. Hosting wytrenowanego modelu - od ~100$/miesiąc za mały model do ~2000$/miesiąc za duży. Sam trening - pay-per-hour GPU.

Inne usługi. Computer vision od 1$ per 1000 transakcji, speech od 1$ per godzinę audio.

Rough estimate dla typowej aplikacji (chatbot z RAG nad 50k dokumentów, 1000 zapytań dziennie):

Modele LLM: ~50-100$/miesiąc
Azure AI Search: ~250$/miesiąc
Storage + bandwidth: ~20$/miesiąc
Razem: ~350$/miesiąc

W OpenAI direct wyszłoby ~80$/miesiąc, ale bez enterprise features, bez SLA, bez compliance.

Mini case study: RAG nad dokumentami prawnymi

Prawnicza kancelaria 12 osób. Problem: młodzi prawnicy spędzają godziny na szukaniu precedensów i interpretacji w 200 tysiącach dokumentów (umowy, wyroki, opinie).

Wdrożenie na Azure AI Foundry:

Azure AI Search z 200k dokumentami, indeksowane po dacie, typie, tagach
GPT-4o jako LLM
Prompt shields i groundedness detection włączone
Logowanie każdego zapytania do Azure Monitor (audyt)
Interfejs: aplikacja webowa w React, autoryzacja przez Entra ID

Wynik po 3 miesiącach:

Czas wyszukiwania precedensu z 15 minut do 30 sekund
80% zapytań odpowiedziane bez potrzeby manualnego czytania
Prawnicy zgłaszają 5% halucynacji (reszta OK dzięki groundedness detection)
Koszt: ~400$/miesiąc
ROI: każdy prawnik oszczędza ~2h dziennie = 24h tygodniowo

Dlaczego Azure a nie OpenAI? Bo kancelaria wymagała:

Wszystkie dane w regionie UE
Audit log dla klientów
RBAC - młodzi prawnicy nie widzą dokumentów z confidential matters
Brak trenowania modeli na danych klientów (wymóg retencji)

OpenAI direct nie spełniał żadnego z tych. Azure - wszystkie.

Kiedy Azure AI Foundry ma sens, a kiedy nie

Bierz Azure AI Foundry, jeśli:

Jesteś firmą z wymogami compliance (bank, ubezpieczenie, zdrowie, prawnik, government)
Masz Microsoft 365 i chcesz zintegrować AI z Teams, SharePoint, Outlook
Musisz trzymać dane w Polsce lub UE
Masz dział bezpieczeństwa, który musi zaakceptować dostawcę
Planujesz używać różnych modeli (nie tylko OpenAI)
Budżet jest enterprise, nie startup

Lepiej szukać gdzieś indziej, jeśli:

Jesteś startupem B2C bez wymogów compliance
Masz budżet rzędu 50$/miesiąc na AI
Wszystko, czego potrzebujesz, to API do GPT-4
Nie masz Azure w ogóle i nie planujesz mieć
Twoja aplikacja to prototyp albo PoC

Fajna zasada: jeśli Twoja firma ma osobę o tytule "CISO", "Compliance Officer" albo "DPO" - Azure jest naturalnym wyborem. Jeśli nie - zacznij od OpenAI direct, a Azure zostaw na później.

Jak zacząć w 30 minut

Najprostsza ścieżka:

Załóż konto Azure. Jeśli nie masz - masz 200$ darmowych kredytów na start. Wystarczy na miesiąc eksperymentów.
Otwórz Azure AI Foundry Studio (ai.azure.com). Zaloguj się kontem Azure.
Stwórz AI Hub. To taki workspace - tutaj będą Twoje modele, indeksy, deployments. Wybierz region (West Europe albo Poland Central).
Wypróbuj modele w playgroundzie. Wpisz prompt, zobacz odpowiedź. Porównaj GPT-4o z Mistral Large z Phi-3. Zobacz, jak różnie odpowiadają.
Zbuduj prosty RAG. Wrzuć 5 PDF-ów, kliknij "Add to index", zadaj pytanie. Działa w 10 minut.
Wdróż model jako endpoint. Klikasz "Deploy", dostajesz URL i API key. Wywołujesz z curl albo Postmana.

Po pierwszym wdrożeniu poczujesz, jak to smakuje. Jeśli Ci się spodoba - wchodź w SDK i buduj aplikację. Jeśli nie - masz 20$ spalonych kredytów, ale wiesz, że Azure nie jest dla Ciebie.

Dwa najczęstsze błędy początkujących

Widziałem je wielokrotnie, więc warto o nich napisać od razu:

Błąd 1: zaczynasz od fine-tuningu. Poczujesz, że model "nie rozumie Twojego domenu" i postanawiasz fine-tunować. Błąd. W 80% przypadków lepszy prompt albo RAG da lepszy efekt szybciej i taniej. Fine-tuning zostaw na moment, gdy wycisnąłeś już wszystko z prompt engineeringu.

Błąd 2: używasz GPT-4o wszędzie. GPT-4o to potężny model, ale nie do wszystkiego. Klasyfikacja maila na spam/ham? Phi-3 mini zrobi to za 5% ceny. Tłumaczenie? Mistral albo Llama. Nie przepalaj budżetu na model, którego moc Cię przerasta.

Wady platformy - bo nie wszystko jest idealne

Żeby nie brzmieć jak ulotka Microsoftu, kilka rzeczy, które mnie irytują:

Złożoność. Foundry ma dużo funkcji, ale interfejs bywa zagmatwany. Jak nie znasz Azure, pierwsze klikanie to labirynt. Nowi użytkownicy potrzebują tygodnia, żeby poczuć się komfortowo.

Cena. Enterprise features mają enterprise pricing. Dla małych projektów to overkill. Za to samo co w OpenAI za 50$, w Azure zapłacisz 100-150$.

Dokumentacja bywa niespójna. Microsoft dokumentuje szybko zmieniające się produkty, więc docs często są nieaktualne. Czasem łatwiej znaleźć odpowiedź na Stack Overflow niż w oficjalnej dokumentacji.

Lock-in. Raz wdrożysz aplikację na Azure AI Search i w Azure AI Foundry SDK - ciężko się przenieść. Microsoft ułatwia wejście, ale utrudnia wyjście.

Modele OpenAI są droższe na Azure niż bezpośrednio. To celowe - płacisz za enterprise wrapper. Jeśli budżet jest napięty, boli.

Aktualizacje bywają breaking. Microsoft deprecjonuje wersje modeli i API. Model, który działał rok temu, dziś jest deprecated i trzeba go przenieść. To praca.

Mimo tych wad - dla firm, które potrzebują enterprise AI, Azure AI Foundry jest dziś najmocniejszym wyborem na rynku. Nie idealny, ale realistyczny.

Chcesz wdrożyć AI w firmie, ale nie wiesz gdzie zacząć

Jeśli czytasz ten artykuł i myślisz „brzmi fajnie, ale nie mam czasu się tego uczyć" - rozumiem. Azure AI Foundry jest potężny, ale wejście w niego wymaga czasu i wiedzy. A czas to ta rzadka waluta, której masz mało.

Pomagam firmom projektować i wdrażać rozwiązania AI - od prostych chatbotów z RAG po pełne systemy agentowe. Zaczynamy od audytu: sprawdzamy, gdzie AI realnie oszczędzi czas i pieniądze, wybieramy odpowiednie modele, projektujemy architekturę zgodną z Twoimi wymogami bezpieczeństwa i compliance, wdrażamy i szkolimy zespół.

Jeśli masz pomysł na zastosowanie AI albo proces, który chciałbyś zautomatyzować - napisz do mnie przez mwozniczka.net/kontakt. Powiem Ci wprost, czy Azure AI Foundry ma sens dla Twojego przypadku, czy lepiej poszukać czegoś innego. Bez sprzedaży na siłę, bez combo ofert.