Nakahanap ang OpenAI ng paraan upang gawing mas lohikal ang mga modelo ng AI at maiwasan ang mga guni-guni

Bagama't advanced ang mga modelo ng AI at nakakagawa ng mga hindi pangkaraniwang bagay, may kakayahan pa rin silang magkamali at makagawa ng mga maling sagot — kilala bilang mga guni-guni. 

Ang lahat ng pangunahing AI chatbots, kabilang ang ChatGPT at Google Bard, ay madaling kapitan ng mga guni-guni na ito. Parehong kinabibilangan ng OpenAI at Google ang mga pagsisiwalat na posibleng makagawa ng maling impormasyon ang kanilang mga chatbot. 

Ito: ChatGPT vs Bing Chat vs Google Bard? Alin ang pinakamahusay na AI chatbot?

"Kung minsan ang ChatGPT ay nagsusulat ng makatwirang-tunog ngunit hindi tama o walang katuturang mga sagot," sabi ng OpenAI sa isang Post sa blog ng ChatGPT. 

Ang paglikha ng maling impormasyon ay humantong sa malawakang mga alalahanin tungkol sa pagpapakalat ng maling impormasyon at ang mga potensyal na negatibong kahihinatnan nito.

Sa isang bagong post ng pananaliksik, ibinahagi ng OpenAI na maaaring nakahanap ito ng paraan upang gawing mas lohikal ang pagkilos ng mga modelo ng AI at maiwasan ang mga guni-guni. 

Ang OpenAI ay nagsanay ng isang modelo na may kakayahang lutasin ang mga kumplikadong problema sa matematika sa pamamagitan ng "pagsubaybay sa proseso," isang paraan na nagbibigay ng feedback para sa bawat indibidwal na hakbang kumpara sa "pagsubaybay sa kinalabasan," na nagbibigay ng feedback sa isang resulta. 

Ito: Sinubukan ko ang maraming tool sa AI para sa trabaho. Narito ang aking 5 paborito sa ngayon

Sa papel ng pananaliksik, sinubukan ng OpenAI ang parehong mga pamamaraan gamit ang dataset ng MATH at nalaman na ang paraan ng pangangasiwa ng proseso ay humantong sa "makabuluhang mas mahusay na pagganap."

"Ang pangangasiwa sa proseso ay mas malamang na makagawa ng maipaliwanag na pangangatwiran, dahil hinihikayat nito ang modelo na sundin ang isang proseso na inaprubahan ng tao," sabi ng OpenAI sa papel ng pananaliksik. 

Ito: Paano muling masusulat at mapahusay ng ChatGPT ang iyong umiiral na code

Pansinin ng OpenAI na sa labas ng saklaw ng mga problema sa matematika, hindi alam kung gaano kalawak ilalapat ang mga resultang ito, ngunit mahalaga pa rin na tuklasin ito sa ibang mga domain.