Nowe funkcje zaprezentowane na DevDay 2024

2 października 2024 roku podczas DevDay w San Francisco zaprezentowano szereg nowych produktów API i funkcji, które mają na celu usprawnienie pracy deweloperów. Na stronie openai.com/devday można śledzić wydarzenia z tego dnia, a w ciągu kilku tygodni zostaną udostępnione nagrania z kluczowych wystąpień, sesji tematycznych i rozmów społeczności deweloperów.

Nowe możliwości Realtime API

Jedną z kluczowych nowości jest Realtime API, które umożliwia tworzenie aplikacji z niską latencją w zakresie rozpoznawania i generowania mowy. Nowa funkcja pozwala na korzystanie z sześciu gotowych głosów obsługiwanych przez API, eliminując potrzebę łączenia wielu modeli, co często prowadziło do opóźnień lub nienaturalnych interakcji. Realtime API wchodzi obecnie w fazę beta, a wszyscy zainteresowani mogą rozpocząć pracę z dokumentacją lub przykładową biblioteką.

Optymalizacja dzięki Prompt Caching

Kolejną nowością jest wprowadzenie funkcji Prompt Caching, która dostępna jest dla wszystkich deweloperów. Pozwala ona zaoszczędzić 50% kosztów przetwarzania w przypadku ponownie wykorzystywanych danych wejściowych, jednocześnie zmniejszając latencję. Funkcja ta działa automatycznie na najnowszych wersjach modeli GPT-4o i o1.

Nowe narzędzia do trenowania modeli

Model Distillation to nowe narzędzie, które upraszcza proces trenowania mniejszych modeli na podstawie większych, bardziej zaawansowanych modeli. Nowy workflow na platformie OpenAI, w połączeniu z funkcją Stored Completions oraz beta wersją Evals, umożliwia tworzenie niestandardowych ocen i trenowanie modeli z optymalną wydajnością dla specyficznych zadań.

GPT-4o dostrojony do pracy z obrazami

GPT-4o zyskał teraz możliwość dostrajania przy użyciu zarówno tekstu, jak i obrazów. To rozszerzenie umożliwia bardziej zaawansowane wyszukiwanie wizualne, poprawę wykrywania obiektów w pojazdach autonomicznych oraz dokładniejszą analizę obrazów. Szczegóły na temat tej funkcji można znaleźć w dokumentacji.

Darmowe tokeny treningowe do końca października

Do końca października 2024 oferowane są darmowe tokeny treningowe w ramach Model Distillation i Vision Fine-Tuning. Deweloperzy mogą skorzystać z miliona darmowych tokenów dziennie dla modelu GPT-4o oraz dwóch milionów tokenów dziennie dla wersji mini. Po zakończeniu promocji obowiązywać będą standardowe ceny.

Aktualizacja modelu GPT-4o i oszczędności

Aktualizacja modelu GPT-4o obniża koszty przetwarzania danych wejściowych o 50% oraz wyjściowych o 33%. Deweloperzy mogą skierować swoje aplikacje na nową wersję modelu, aby od razu skorzystać z oszczędności.

Większy dostęp do modeli OpenAI o1

API OpenAI o1-preview oraz o1-mini są teraz dostępne dla deweloperów na poziomie użytkowania 3. Zwiększono również limity zapytań do 10 000 na minutę dla poziomów 4 i 5, co jest porównywalne z możliwościami GPT-4o. Wkrótce planowane jest rozszerzenie dostępu na kolejne poziomy.

Ułatwione generowanie w narzędziu Playground

W narzędziu Playground wprowadzono przycisk „Generate”, który pozwala na łatwe generowanie promptów, definicji funkcji i schematów danych wyjściowych. Jest to doskonały punkt startowy do projektów, który może zostać rozwinięty zgodnie z bardziej specyficznymi wymaganiami.

Nowe zasoby edukacyjne dla deweloperów

Deweloperzy mogą liczyć na coraz więcej zasobów edukacyjnych. Nowe dokumentacje, przewodniki, przykładowe aplikacje i książki kucharskie są regularnie dodawane, by ułatwić budowanie i skalowanie projektów na platformie OpenAI. Dostępne są m.in. materiały dotyczące tworzenia niestandardowych ocen, funkcji generowania rutyn, wywoływania funkcji oraz używania struktur wyjściowych w systemach wieloagentowych.

Plany na przyszłe spotkania deweloperów

W najbliższym czasie zaplanowano również kolejne DevDays w Londynie i Singapurze, a także spotkania społeczności deweloperów w różnych miastach. Zachęca się wszystkich do dzielenia się pytaniami, sugestiami oraz opiniami na forum deweloperskim.