Badanie wykazało, że Gemini Pro Google jest gorszy od GPT-3.5 Turbo OpenAI

Badanie przeprowadzone przez Carnegie Mellon University i BerriAI wykazało, że model językowy Google Gemini Pro był mniej wydajny niż model GPT-3.5 Turbo od OpenAI w większości zadań testowych, pisze VentureBeat.

Test zawierał pytania wielokrotnego wyboru z różnych dziedzin, a także zadania logiczne.

Wyniki testów dużych modeli językowych Gemini Pro, GPT-3.5 Turbo, GPT-4 Turbo i Mixtral

Gemini Pro wykazał słabsze wyniki, szczególnie w obszarach związanych z matematyką, programowaniem i przetwarzaniem złożonych zapytań. Jednocześnie model ten wykazał pewne zalety w zadaniach związanych z sortowaniem słów, symboli i tłumaczeniem tekstu.

Zadania, w których Gemini Pro osiągnął lepsze wyniki niż GPT-3.5 Turbo

Jednak pomimo tych indywidualnych sukcesów, Gemini Pro pozostaje w tyle za GPT-3.5 Turbo pod względem ogólnej wydajności. Odpowiadając na wyniki badania, przedstawiciel Google wskazał na wyższość Gemini Pro w innych wewnętrznych testach i wyraził oczekiwanie, że następny model, Gemini Ultra, którego premiera zaplanowana jest na 2024 rok, przewyższy obecne modele, w tym GPT-4.

You might also like
Comments
Loading...

Ta strona używa plików cookie, aby poprawić komfort korzystania z niej. Zakładamy, że nie masz nic przeciwko temu, ale możesz zrezygnować, jeśli chcesz. Akceptuj Czytaj więcej