Nandany $160,000 ny OpenAI tamin'ny Upwork ho an'ny mpilalao Minecraft hampiofana harato neural

crafting-diamond-pickaxe

Avy amin'ny lahatsarin'ny VPT manenjika ny fanamboarana diamong pickaxe ao amin'ny Minecraft. Nahavita izany tao anatin'ny folo minitra ny programa informatika, izany hoe antsasa-potoana izay ilain'ny mpilalao mahay iray hanao izany.

Inona no maha-zava-dehibe ny mahafehy ny “fitaovana diamondra” ao amin'ny Minecraft?

Tena zava-dehibe ny mandany $ 160,000, araka ny OpenAI, ny fanombohan'ny faharanitan-tsaina artifisialy.

Izany no vola lanin'ny ekipa iray ao amin'ny OpenAI hanakarama mpilalao Minecraft ao amin'ny sehatra lisitry ny asa an-tserasera Upwork mba handefasana horonan-tsary momba ny tenany nilalao ilay lalao. 

Amazon Prime Day 2022: Fifanarahana aloha

In taratasy naseho amin'ity herinandro ity, "Video PreTraining (VPT): Mianara Mihetsika amin'ny fijerena horonan-tsary an-tserasera tsy misy marika", ireo mpikaroka OpenAI Bowen Baker sy ny ekipa dia nanapa-kevitra tamin'ny fampiasana angon-drakitra lehibe hanofanana tambajotra neural mba haka tahaka ny faneken'ny olombelona hamahana asa samihafa ao amin'ny horonan-tsary. lalao. (Lasan'ny bilaogy efa navoaka koa avy amin'ny OpenAI.) 

Tambajotra neural marobe no nandresy karazana lalao isan-karazany tamin'ny alàlan'ny antsoina hoe fianarana fanamafisana tato anatin'ny taona vitsivitsy, anisan'izany ny DeepMind DeepMind's AlphaZero, izay nandray ny chess, Go, ary Shogi, ary ny manaraka. MuZero programa, izay nanampy ny fahaizana mitantana lalao Atari. 

Baker sy ny ekipa dia naniry ny hamolavola tambajotra neural ho an'ny tontolon'ny lalao "tontolo misokatra" be pitsiny kokoa ao amin'ny Minecraft, izay ahafahan'ny mpilalao kitiho fahalalahana maro kokoa noho ny lalao chess na Atari. 

koa: AI ao anatin'ny Sixty Seconds 

Ny literatiora fikarohana, nosoratan'ireo mpanoratra, dia ahitana asa "betsaka" amin'ny Minecraft. Saingy tsy manam-paharoa ny asa VPT, hoy izy ireo nanoratra, noho ny sehatra sy ny habeny: "Raha ny fahalalantsika indrindra dia tsy misy asa navoaka izay miasa ao anatin'ny sehatry ny hetsika ataon'ny olombelona feno sy tsy misy fanovana, izay ahitana ny fitantanana ny famoriam-bola sy ny fitazonana. famoronana zavatra.”

Ny asa fanorenana ny tambajotra neural, antsoina hoe VPT, dia natao tamin'ny dingana roa. Ny dingana voalohany dia nila mpilalao na mpiantoka lalao olombelona, ​​izay nanangona lalao lalao 4,500 ora. Hitan’ny mpikaroka tatỳ aoriana fa 2,000 XNUMX ora teo ho eo no tena nilain’izy ireo.

Baker sy ny ekipa dia mamaritra ny dingana:

Nosokafanay nandritra ny iray andro ny fangatahana, ary avy eo nifidy 10 ho an'ny mpifaninana amin'ny fihodinana voalohany. Taty aoriana tao amin'ny tetikasa, satria nila angona bebe kokoa izahay ary rehefa nangataka ny hampitsahatra ny fifanekena nataon'izy ireo ny mpandraharaha sasany, dia nanampy mpangataka maro kokoa avy amin'ny dobo tany am-boalohany ary koa ny fanondroana avy amin'ireo mpiantoka miasa amin'izao fotoana izao. Nahazo karama 20 dolara isan'ora ireo mpiantoka (mihena ny sarany amin'ny sehatra Upwork sy ny hetra azo ampiharina). Ny vokatra rehetra aseho ato amin'ity taratasy ity dia mifototra amin'ny angon-drakitra 4,500 ora eo ho eo (anisan'izany ny angona voarakitra hanangonana antontan'isa momba ny lalaon'olombelona izay tsy nampiasaina tamin'ny fiofanana), izay mitentina manodidina ny $90,000. Nandritra ny tetik'asa dia nanangona angon-drakitra sasany tsy nampiasainay noho ny bibikely tao amin'ny firaketana an-tsoratra izahay ary noho ny hevitra sasany tsy notohizanay tamin'ny farany. Raha atambatra dia nandany $160 teo ho eo ho tambin'ny mpiantoka nandritra ny tetikasa. Na izany aza, araka ny resahantsika ao amin'ny Sec. 4.6, azo inoana fa afaka mahazo ny ankamaroan'ny valiny izahay miaraka amin'ny IDM voaofana amin'ny fampiasana angon-drakitra mitentina $2000 fotsiny, izany hoe ny modely VPT fototra, ny fanitsiana tsara ny BC amin'ny angon-drakitra earlygame_keyword, ary ny valin'ny fanitsiana tsara ny RL. Mitentina eo amin'ny $8000 eo ny fanangonam-baovaon'ny contractor_house. Satria nampiasa ny IDM niofana tamin'ny angon-drakitra momba ny mpiantoka 2000 teo ho eo izahay, dia manodidina ny $40,000 eo ho eo ny sandan'ny angon'ny mpiantoka ho an'ireo vokatra ireo.

Nandritra ireo ora 4,500 ireo, nasiany marika tamin'ny sarin'ny horonan-tsarimihetsika lalao ho an'ny hetsika toy ny “fanisana”, hanamarinana ny fanangonana zavatra ataon'ny mpilalao iray, amin'ny fampiasana ny famaha “E”; ary "sneak", mba hamindra "tsara" amin'ny lalana ankehitriny, mampiasa ny SHIFT fanalahidy. Ireo hetsika ireo dia voarakitra ho tady lahatsoratra JSON isaky ny lalao lalao ary voatahiry miaraka amin'ireo sary mihetsika. 

Ny sarin'ny lalao miaraka amin'ny hetsika misy marika dia nampiasaina mba hampiofanana harato neural antsoina hoe modelin'ny dinamika inverse, na IDM, izay mianatra izay hetsika mandeha amin'ny frame. Ny IDM dia fitambarana karazana harato neural maromaro, ao anatin'izany ny harato neural 3-D sy ny ResNet mba hamakiana ireo sarin-dahatsary, ary tambajotran'ny Transformer maromaro misarika ny saina haminavina ny sary manaraka. 

koa: Sentient? Google LaMDA dia mahatsiaro ho toy ny chatbot mahazatra

Ny fahaizan'ny IDM voaofana avy eo dia ampiasaina amin'ny andian-dahatsary lehibe kokoa, ny totalin'ny 70,000 ora amin'ny sary Minecraft tsy misy marika nangonina avy amin'ny Internet. Ny IDM dia mampihatra "pseudo-labels" amin'io fanangonana lehibe kokoa io. Raha lazaina amin'ny teny hafa, ny IDM, sy ny saram-pandraharahana, dia fomba iray hanamafisana andian-dahatsary fanofanana goavana. 

openai-vpt-training-2022

Ny fomba fanofanana ho an'ny VPT.

OpenAI

Na dia lafo aza ny fandoavam-bola ataon'ny mpiantoka, ny fomba fiasa dia mampiseho fitsitsiana lehibe, hoy ny mpanoratra. Raha tsy maintsy manangona angon-drakitra momba ny mpandraharaha mitovy amin'ny 70,000 ora amin'ny horonan-tsary amin'ny Internet izy ireo, dia ho lafo kokoa izany.

“Raha afaka nanangona mora foana ny angon-drakitra momba ny orinasa misy marika mitovy amin'ny haben'ny web_clean isika, dia tsy ho zava-dehibe izany; na izany aza, ny fanangonana an'io mari-pamantarana io dia mety handany dolara an-tapitrisany. "

Amin'ny fampiasana ny ora 70,000, ny mpanoratra avy eo dia manofana tambajotra neural faharoa, voaforona ihany koa amin'ny sosona Transformer, mba haka tahaka ny fihetsiky ny mpampiasa ao amin'ireo horonan-tsary, fanao mahazatra fantatra amin'ny anarana hoe "cloning fitondran-tena."

Ny tanjon'ny asa dia ny fitadiavana fomba hanofanana "agent" solosaina amin'ny ankapobeny izay afaka mampiasa ny harenan'ny angon-drakitra ao amin'ny Internet izay tsy misy etikety hamahana ireo asa izay misy ny antony, ny dikany ary ny filaharan'ny hetsika izay misy fifandraisana ilaina amin'ny iray mankany amin'ny manaraka. 

"Ny valiny aseho ato amin'ity taratasy ity dia manampy amin'ny fametrahana ny lalana hampiasana ny harenan'ny angon-drakitra tsy voatanisa ao amin'ny tranonkala ho an'ny sehatra fanapahan-kevitra misesy," hoy izy ireo nanoratra. 

Ny asa dia azo heverina ho azo ampiasaina amin'ny asa informatika maro izay mitaky filaharan'ny tsindry totozy sy ny fanaraha-maso hafa ataon'ny olombelona, ​​hoy izy ireo. 

"Na dia manao fanandramana ao amin'ny Minecraft ihany aza izahay, dia mino izahay fa ny VPT dia manome fomba fanao ankapobeny ho an'ny fanofanana ny fitondran-tena mialoha amin'ny sehatra henjana, nefa mahazatra, amin'ny sehatra rehetra izay manana angon-drakitra tsy misy marika malalaka malalaka, toy ny fampiasana solosaina."

Ny Open-AI dia fantatra indrindra amin'ny programa fiteny lehibe antsoina hoe GPT-3, izay mampiasa fomba fiasa "voaofana mialoha" mifototra amin'ny data an-tranonkala an-taoniny izay tsy misy marika. Amin'ny lafiny iray, ny lalao Minecraft dia manitatra izany fomba fiasa izany amin'ny fakan-tahaka ny fitondran-tena eo amin'ny sehatry ny asan'ny ordinatera nalaina tamin'ny horonan-tsary. 

Vakio ihany koa: Inona ny GPT-3? Ny zava-drehetra tokony ho fantatry ny orinasanao momba ny fandaharan'asan'ny teny AI miompana amin'ny OpenAI

Ny zava-bita faratampony dia amin'ny toe-javatra sasany dia mihoatra ny fotoana takiana amin'ny olona iray mba hanatontosana ny iray amin'ireo asa sarotra indrindra, ny fahazoana diamondra pickaxe.

Ao amin'ny Minecraft, ny fitaovana mifototra amin'ny diamondra dia maharitra kokoa ary mety hiteraka fahavoazana bebe kokoa. Diamond pickaxes ihany no zava-dehibe manokana ho an'ny ankamaroan'ny mpilalao. Mila pickaxe diamondra ianao mba hitrandrahana obsidian sy fitaovana noforonina antsoina hoe netherite, izay samy manan-danja amin'ny hetsika farany amin'ny lalao toy ny latabatra manjavozavo sy ny fanaovana fitaovana netherite.

Taorian'ny fanofanana ny VPT hianatra karazana asa Minecraft rehetra, dia nampiasa fomba "fanamboarana tsara" ireo mpanoratra izay namolavola tambajotra neural fianarana fanamafisana mba hamolavola diamondra pickaxe amin'ny fotoana haingana kokoa noho ny mahazatra. 

"Mba hanehoana ny fahombiazan'ny fanitsiana tsara ny RL, dia nisafidy ny tanjona sarotra izahay mba hahazoana diamondra pickaxe ao anatin'ny 10 minitra manomboka amin'ny tontolon'ny Minecraft velona vaovao," hoy izy ireo nanoratra. 

Sarotra ho an'ny olombelona izany, izay maharitra avo roa heny amin'ny fanaovana izany, raha mahavita izany mihitsy izy ireo:

Tafiditra amin'izany ny fahazoana ny filaharan'ireo zavatra sarotra azo izay mitaky fahaiza-manao sarotra toy ny fitrandrahana harena ankibon'ny tany, fitantanana ny fanisana, fanamboarana miaraka amin'ny latabatra fanamboarana na tsy misy, fampiasana fitaovana, fampandehanana lafaoro, ary fitrandrahana harena ankibon'ny tany amin'ny lalina indrindra, izay ahitana loza maro toy ny fahavalo. ary misy lava (sary 6). Manampy ny fahasahiranana, ny fandrosoana dia mety ho very mora foana amin'ny fandatsahana entana, fandravana entana, na ho faty. Mitaky olona mahay mandritry ny 20 minitra (hetsika 24,000) ny fahazoana vato diamondra matetika.

Tamin'ny fanangonana ny angon-drakitra momba ny mpiantoka sy ny ora 70,000 ora amin'ny horonan-tsarimihetsika an-tranonkala, dia nahatsiaro ny fahatsinjovana votoaty manafintohina ireo mpanoratra. "Azon'ny mpandraharaha atao ny mampiasa ny fananan'ny Minecraft amin'ny tontolo misokatra mba hamoronana vaovao azo fantarina sy/na votoaty manafintohina (ohatra amin'ny fampiasana sakana Minecraft hanoratana ny anarany na hafatra manafintohina, avy eo amin'ny fitadiavana toerana hahitana ilay hafatra)," hoy izy ireo. manoratra, na dia tsy nahita izany aza izy ireo tamin'ny horonan-tsary avy amin'ireo mpiantoka nojeren'ny mpanoratra. 

“Mazava ho azy fa mampiofana ny maodely BC [cloning fitondran-tena] izahay amin'ny horonan-tsary avy amin'ny Internet an'ny olona milalao Minecraft, ary raha toa ka ao anatin'ireo horonan-tsary ireo ny fihetsika toy izany dia mety hianatra izany koa ny modely misy anay, na dia manantena izahay fa tsy fahita firy ny fitondran-tena toy izany noho ny modely misy anay. tsy azo inoana fa hamerina azy io”, hoy izy ireo nanoratra. 

Aiza no alehan'ny masoivoho jeneraly toy izany? Ny hevitra dia ny hoe rehefa naharesy famaky diamondra, VPT, na ny taranany, dia afaka manao ny karazan-javatra rehetra mety hataon'ny olona iray amin'ny totozy sy fitendry, ao anatin'izany ny tapakila booing, ny surf amin'ny media sosialy, na ny fitetezana sarintany. 

Source