AI Augumented processes z Gemini Decisions API

Poznaj Gemini Decisions API i model gemini-decision-1. Zastąp generowanie tekstu szybką klasyfikacją odpowiedzi bez płacenia za tokeny wyjściowe.

W nowoczesnych systemach korzystających z modeli językowych znaczna część zapytań wcale nie służy do generowania tekstów dla użytkownika. Zadajemy pytania sterujące logiką aplikacji: „czy ta wiadomość to spam?”, „do której kolejki ma trafić zgłoszenie?”, „jak pilny jest ten problem?”, a następnie rozgałęziamy wykonanie kodu na podstawie wyniku.

Dotychczasowe podejście z klasycznym LLM-em wymagało zawsze tych samych kroków, tj. piszesz prompt, wymuszasz schemat wyjściowy (np. JSON), parsujesz odpowiedź i zakładasz, że model zwróci jedną z dopuszczalnych wartości. Płacisz za tokeny wyjściowe i czekasz, aż model wygeneruje je po kolei. That’s all.

Model gemini-decision-1 wraz z Gemini Decisions API upraszcza ten proces. Zamiast generować tekst, model ocenia zamknięty zbiór opcji w jednym wywołaniu i zwraca prawdopodobieństwa oraz wynik pewności.

Jak działa model decyzyjny Decisions API?

Do pojedynczego żądania przekazujesz dane wejściowe (tekst, obraz, dźwięk, wideo lub plik PDF) oraz mapę pytań. Model wykonuje ocenę każdego pytania w izolacji względem wejścia i zwraca gotowy obiekt z wynikami, na którym możesz bezpośrednio oprzeć if-y w swojej logice biznesowej.

Z perspektywy architektury i kosztów ma to trzy konkretne konsekwencje:

  • Brak tokenów wyjściowych i niskie opóźnienie: płacisz wyłącznie za tokeny wejściowe (na ten moment 17.11.2026; $0,10 za 1 milion tokenów), a czas odpowiedzi dla kontekstu do 16 tysięcy tokenów mieści się zazwyczaj w przedziale 150–250 ms.
  • Wspólne wejście rozliczane raz: w jednym wywołaniu możesz zadać od 1 do 1000 pytań w ramach okna kontekstu. Dane wejściowe są przetwarzane tylko raz, a każde kolejne pytanie dokłada jedynie tokeny własnej instrukcji i kryteriów.
  • Izolacja pytań: pytania nie widzą siebie nawzajem. Dodanie lub usunięcie jednego warunku nie wpływa na prawdopodobieństwa pozostałych odpowiedzi, co ułatwia utrzymanie i testowanie reguł.

Jakie pytania obsługuje Decisions API?

Decisions API obsługuje trzy rodzaje zapytań: tak/nie, wybór poprawnej odpowiedzi oraz ocena.

1. Pytanie tak/nie (noul)

Służy do weryfikacji warunków zero-jedynkowo. Zwraca wartość noul z przedziału od 0.01 do 0.99 (prawdopodobieństwo odpowiedzi twierdzącej, czyli inaczej na ile prawdopodobne jest odpowiedź „tak” na zadanie pytanie) oraz ogólny wskaźnik confidence.

import { GoogleGenAI } from '@google/genai';

const ai = new GoogleGenAI();

async function verifyReturnEligibility(customerMessage: string): Promise<boolean> {
  const result = await ai.decisions.create({
    model: 'gemini-decision-1',
    input: customerMessage,
    questions: {
      is_damaged: {
        type: 'noul',
        instructions: 'Czy produkt dotarł uszkodzony?',
        criteria: {
          yes: 'Klient opisuje fizyczne uszkodzenie, pęknięcie lub wadę fabryczną.',
          no: 'Klient zwraca sprawny produkt, np. z powodu zmiany zdania lub złego rozmiaru.',
        },
      },
    },
  });

  const answer = result.answers.is_damaged;
  return answer.noul > 0.8 && answer.confidence > 0.85;
}

2. Wybór jednej opcji (choice)

Pozwala sklasyfikować dane wejściowe do jednej z maksymalnie 255 zdefiniowanych kategorii. Klucz w obiekcie criteria to identyfikator, który otrzymasz w odpowiedzi, a wartość to opis reguły decyzyjnej.

import { GoogleGenAI } from '@google/genai';

const ai = new GoogleGenAI();

type SupportQueue = 'billing' | 'replacements' | 'general';

async function routeTicket(ticketText: string): Promise<{ queue: SupportQueue; confidence: number }> {
  const result = await ai.decisions.create({
    model: 'gemini-decision-1',
    input: ticketText,
    questions: {
      target_queue: {
        type: 'choice',
        instructions: 'Wybierz kolejkę obsługi dla tego zgłoszenia.',
        criteria: {
          billing: 'Pytania o płatności, faktury, rabaty lub zwrot środków.',
          replacements: 'Zgłoszenia dotyczące uszkodzonych, brakujących lub pomylonych produktów.',
          general: 'Pytania o specyfikację produktu i zarządzanie kontem.',
        },
      },
    },
  });

  const decision = result.answers.target_queue;

  return {
    queue: decision.choice as SupportQueue,
    confidence: decision.confidence,
  };
}

3. Ocena na uporządkowanej skali (score)

Służy do oceny według skali liczącej od 2 do 255 poziomów. Zwracany wynik to wartość oczekiwana ważona prawdopodobieństwami poszczególnych poziomów (np. 1.42), wraz z rozkładem prawdopodobieństwa dla każdego stopnia.

import { GoogleGenAI } from '@google/genai';

const ai = new GoogleGenAI();

async function evaluateIncidentSeverity(incidentReport: string): Promise<number> {
  const result = await ai.decisions.create({
    model: 'gemini-decision-1',
    input: incidentReport,
    questions: {
      severity: {
        type: 'score',
        instructions: 'Oceń krytyczność zgłoszonego błędu w systemie.',
        criteria: {
          '0': 'Błąd kosmetyczny: literówka lub drobny problem wizualny bez wpływu na działanie.',
          '1': 'Utrudnienie z obejściem: funkcja nie działa, ale użytkownik może wykonać zadanie inną drogą.',
          '2': 'Blokada krytyczna: kluczowy proces biznesowy jest niedostępny bez obejścia.',
        },
      },
    },
  });

  return result.answers.severity.score;
}

Sterowanie na podstawie confidence

Kluczową cechą gemini-decision-1 jest kalibracja. Wskaźnik confidence (od 0 do 1) odzwierciedla rzeczywiste prawdopodobieństwo poprawności wybranej odpowiedzi. Zamiast bezwarunkowo ufać etykiecie zwróconej przez model, w kodzie aplikacji rozdzielasz ruch na ścieżkę automatyczną oraz ścieżkę eskalacji do człowieka lub bardziej zaawansowanego modelu.

import { GoogleGenAI } from '@google/genai';

const ai = new GoogleGenAI();

async function processIncomingMessage(message: string): Promise<string> {
  const result = await ai.decisions.create({
    model: 'gemini-decision-1',
    input: message,
    questions: {
      is_spam: {
        type: 'noul',
        instructions: 'Czy wiadomość jest niechcianą reklamą lub próbą phishingu?',
      },
      category: {
        type: 'choice',
        instructions: 'Przypisz kategorię zapytania.',
        criteria: {
          sales: 'Zapytanie ofertowe lub chęć zakupu.',
          support: 'Problem techniczny z działającą usługą.',
        },
      },
    },
  });

  const spamCheck = result.answers.is_spam;
  const categoryCheck = result.answers.category;

  if (spamCheck.confidence >= 0.9 && spamCheck.noul > 0.85) {
    return 'REJECT_SPAM';
  }

  if (categoryCheck.confidence < 0.75) {
    return 'ESCALATE_TO_HUMAN';
  }

  return `ROUTE_TO_${categoryCheck.choice.toUpperCase()}`;
}

Próg pewności należy dobrać na własnym zbiorze testowym, ważąc koszt pomyłki automatycznej względem kosztu ręcznej weryfikacji.

Dobre praktyki i ograniczenia

Projektując zapytania pod model decyzyjny, warto trzymać się kilku zasad podziału odpowiedzialności:

  1. Jedno pytanie bada jeden fakt: zamiast budować złożone, wielowarunkowe opisy w jednym polu choice, rozbij logikę na kilka prostych pytań noul w tym samym wywołaniu i połącz je instrukcjami warunkowymi w kodzie.
  2. Formułuj pytania twierdząco: zamiast pytać „Czy użytkownik NIE ma aktywnej subskrypcji?”, zapytaj „Czy użytkownik ma aktywną subskrypcję?”.
  3. Łącz model decyzyjny z generatywnym: użyj Decisions API jako szybkiej bramki wejściowej do routingu i filtrowania, a klasyczny LLM wywołaj dopiero wtedy, gdy trzeba wygenerować treść lub wyekstrahować otwarte dane.

Należy również uwzględnić ograniczenia samego Decisions API, bo mogą one sprawiać problemy:

  1. Brak pamięci konwersacji i narzędzi: API nie obsługuje historii czatu, wywołań funkcji (po MCP) ani trybu rozumowania (thinking). Wieloturowy kontekst trzeba przekazać jako zwykły tekst.
  2. Brak buforowania kontekstu i przetwarzania wsadowego: powtarzające się dane wejściowe w kolejnych zapytaniach są za każdym razem rozliczane w całości, a Context Caching nie jest jeszcze wspierane.
  3. Obsługa multimediów: model analizuje obrazy, audio, wideo oraz pliki PDF przekazane jako przekazane binarki, ale same instrukcje pytań mogą zawierać wyłącznie tekst, a bezpośrednie adresy np. z YouTube oraz URI gs:// nie są obsługiwane.

Podsumowanie

Gemini Decisions API upraszcza architekturę systemów korzystających ze sztucznej inteligencji. Zamiast wymuszać na modelu generatywnym zwracanie ustrukturyzowanego tekstu i parsować go po stronie aplikacji, dostajesz narzędzie zwracające gotowe liczby i prawdopodobieństwa. Pozwala to traktować wywołanie AI jak zwykłą funkcję decyzyjną w kodzie: szybką, przewidywalną kosztowo (nie mylić z przewidywalnością odpowiedzi, bo to inna bajka o której niebawem napiszę) i łatwą do wpięcia w istniejącą logikę.

Autor wpisu

blog@orbisbit.com

Komentarze

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *

Sprawdź również