Jev startuje: model System One do decyzji
Założyciel TypeSafe, Diogo Almeida, przedstawia Jev, metodę trenowania RLCD i skupienie modelu na decyzjach w oprogramowaniu. Post zawiera film premierowy 2:56.

Nowy moduł TypeSafe AI (Jev) przekształca typowane pytania w skalibrowane prawdopodobieństwa w ~100 ms. Używając tego samego wywołania createChatCompletionWithJSON, zmieniając tylko usługę i identyfikator modelu, dostarcza ten sam werdykt 3,4 razy szybciej i 3,5 razy taniej.
🎯 𝐓𝐲𝐩𝐞𝐒𝐚𝐟𝐞 𝐀𝐈 (𝐉𝐞𝐯) - 𝐧𝐞𝐰 𝐦𝐨𝐝𝐮𝐥𝐞 - A decision model, not a chat model: typed questions in, calibrated probabilities out, ~100 ms - Same createChatCompletionWithJSON call, only the service and the model id change. Same verdict, 3.4x faster, 3.5x cheaper