Leela Zero
Re: Leela Zero
Vad ca s-a testat network-ul #136 (ultimul la momentul asta) cu network-ul ELF si distanta dintre ele a ramas cam aceeasi, cu toate ca in graficul evolutie LeelaZero, intre timp s-au castigat 213 puncte ELO. Oare cat de tare e de fapt network-ul ELF?
Iulian Lungu
Re: Leela Zero
Mic Update:
A aparut Leela Zero 0.15 + AutoGTP v16
- Aceasta versiune rezolva un bug in creerea de partide pentru antrenment.
Sa redus numarul de partide generate de networkul ELf de la 50% la 25%
Cateva teorii:
- Primul lucru este ca , probabil Elf inca reuseste sa pedepseasca vulnerabilitati din Networkul LZ. Desi networkul LZ a crescut , atat timp cat exista inca vulnerabilitati de exploatat rata de castig nu se va modifica prea mult.
- Al doilea lucru este ca din fereastra de 250k partide (cred ca asta e fereastra folosita acum) partide generate de Networkul ELF sunt abia 18-19k. Deci inca nu sunt statistic relevante mutarile mai bune.
- Al treilea lucru este ca LZ inca foloseste network de 15 Blocuri iar ELF are 20. Deci e posibil (sau nu) ca LZ sa nici nu reuseasca sa foloseasca noile cunostinte eficient cu 15 blocuri.
P.S. Macar acum avem un etalon. De aceea FB a facut un lucru minunat facand public ELF. Si a saltat o leaca proiectul (probabil chiar cu cateva luni).
A aparut Leela Zero 0.15 + AutoGTP v16
- Aceasta versiune rezolva un bug in creerea de partide pentru antrenment.
Sa redus numarul de partide generate de networkul ELf de la 50% la 25%
Vad ca s-a testat network-ul #136 (ultimul la momentul asta) cu network-ul ELF si distanta dintre ele a ramas cam aceeasi
Cateva teorii:
- Primul lucru este ca , probabil Elf inca reuseste sa pedepseasca vulnerabilitati din Networkul LZ. Desi networkul LZ a crescut , atat timp cat exista inca vulnerabilitati de exploatat rata de castig nu se va modifica prea mult.
- Al doilea lucru este ca din fereastra de 250k partide (cred ca asta e fereastra folosita acum) partide generate de Networkul ELF sunt abia 18-19k. Deci inca nu sunt statistic relevante mutarile mai bune.
- Al treilea lucru este ca LZ inca foloseste network de 15 Blocuri iar ELF are 20. Deci e posibil (sau nu) ca LZ sa nici nu reuseasca sa foloseasca noile cunostinte eficient cu 15 blocuri.
P.S. Macar acum avem un etalon. De aceea FB a facut un lucru minunat facand public ELF. Si a saltat o leaca proiectul (probabil chiar cu cateva luni).
"There are times when the only choices you have left are the bad ones."
Re: Leela Zero
S-a testat din nou ultimul network LeelaZero (#141 la ELO 11.186) cu network-ul ELF si vad ca s-a mai redus din diferenta (11.560 - 11.186). Intre timp network-ul 192x15 a urcat cu 227 puncte ELO.
Iulian Lungu
Re: Leela Zero
Mic Update:
- Noile networkuri au deviat o leaca de la doar 3x3 (probabil si cu ajutorul partidelor generate de ELF).
Din testele mele inpepe sa castige la leela 11 la 3H (momentan 1din5) dar trebuie setata rata de resign 0% sau max 5% deoarece cu default nu reuseste sa treaca peste 10% in 89 de mutari{-89 de mutari sunt fortate de cod pana cand intra in vigoare rata de abandon (default 10%)}. Eu am testat la 12s/mutare.
- Se testeaza intens portarea pe Android. Se pare ca ultimul network pe un Galaxy S7 setat la 20s ar bate leela 11.
Iar aici aveti un interviu cu GCP luat de EGN (EuroGoNews) : https://www.eurogofed.org/index.html?id=205
GCP rulez.
- Noile networkuri au deviat o leaca de la doar 3x3 (probabil si cu ajutorul partidelor generate de ELF).
Din testele mele inpepe sa castige la leela 11 la 3H (momentan 1din5) dar trebuie setata rata de resign 0% sau max 5% deoarece cu default nu reuseste sa treaca peste 10% in 89 de mutari{-89 de mutari sunt fortate de cod pana cand intra in vigoare rata de abandon (default 10%)}. Eu am testat la 12s/mutare.
- Se testeaza intens portarea pe Android. Se pare ca ultimul network pe un Galaxy S7 setat la 20s ar bate leela 11.
Iar aici aveti un interviu cu GCP luat de EGN (EuroGoNews) : https://www.eurogofed.org/index.html?id=205
GN: Have you been able to make money from Leela Zero?
GCP: No. But I think it has made a lot of Go players happy.
GCP rulez.
"There are times when the only choices you have left are the bad ones."
Re: Leela Zero
S-a testat din nou ultimul network LeelaZero (#147 la ELO 11.401) cu network-ul ELF si vad ca s-a mai redus din diferenta (11.719 - 11.401=318). Intre timp network-ul 192x15 a urcat cu 215 puncte ELO.
Deci in termeni reali, in momentul asta ~215 puncte ELO castigate de Leela pe grafic reprezinta ~56 puncte ELO reali. Daca reteaua 192x15 are capacitatea sa invete ce a invatat reteaua ELF si isi pastreaza viteza de invatare, ar putea sa joace de la egal la egal in 12 saptamani.
Deci in termeni reali, in momentul asta ~215 puncte ELO castigate de Leela pe grafic reprezinta ~56 puncte ELO reali. Daca reteaua 192x15 are capacitatea sa invete ce a invatat reteaua ELF si isi pastreaza viteza de invatare, ar putea sa joace de la egal la egal in 12 saptamani.
Iulian Lungu
Re: Leela Zero
Mic Update:
- Deoarece au trecut aproape 2 saptamani de la ultima promovare , normal lumea a intrat in panica.
- Asta a dus la o gramada de discutii legate de reducerea procentului de promovare de la 55% la mai putin.
GCP a reusit sa raspunda in parte:
Se pare ca a incercat sa remedieze din mers fara prea mult succes (banuiesc , ca de la distanta ca a fost si el plecat din cate am inteles) .
- Dar acum lucrurile merg din nou si vom vedea in cateva zile daca asta ar fi problema sau nu, caz in are se va trece la retucerea ratei de invatare.
- O alta problema este ca :
- Chiar ma intreb cat este valoarea daca se trece la 20x256.?
- Alt lucru interesant:
- Deci e posibil ca proiectul sa se indrepte si spre alte directii decat, cresterea in rang.
- Poate vedem antrenamente cu Komi variabil, progres in cazul partidelor la handicap mai mare de 3h, etc.
- Deoarece au trecut aproape 2 saptamani de la ultima promovare , normal lumea a intrat in panica.
- Asta a dus la o gramada de discutii legate de reducerea procentului de promovare de la 55% la mai putin.
GCP a reusit sa raspunda in parte:
Small note because I know many people will start "panicking" as we have 200k games with no notable strength progress (i.e. PASS).
One reason why progress dropped a bit is that the ELF games left the training window. This wasn't intentional.
Se pare ca a incercat sa remedieze din mers fara prea mult succes (banuiesc , ca de la distanta ca a fost si el plecat din cate am inteles) .
- Dar acum lucrurile merg din nou si vom vedea in cateva zile daca asta ar fi problema sau nu, caz in are se va trece la retucerea ratei de invatare.
- O alta problema este ca :
How many Gigabyte of data is the necessary training data ?
A full window is about 20G-30G IIRC.
The problem is that it evolves a few times a day so it's not very fit for torrenting. The storage server that broke was very nice because I could update it almost incrementally with rsync.
At worst I'll rent a dedicated server with a big HDD for a while.
- Chiar ma intreb cat este valoarea daca se trece la 20x256.?
- Alt lucru interesant:
So far, it's been lowering learning rate, and increasing the network size. If we're at the lowest rate at 256x20 I personally think that's a sign we should look towards something else than 19x19 @ 7.5 komi that is more beneficial to Go players
- Deci e posibil ca proiectul sa se indrepte si spre alte directii decat, cresterea in rang.
- Poate vedem antrenamente cu Komi variabil, progres in cazul partidelor la handicap mai mare de 3h, etc.
"There are times when the only choices you have left are the bad ones."
Re: Leela Zero
S-a testat din nou ultimul network LeelaZero (#152 la ELO 11.609) cu network-ul ELF si vad ca s-a mai redus din diferenta (11.886 - 11.609=277). Intre timp network-ul 192x15 a urcat cu 208 puncte ELO.
Deci in termeni reali, in momentul asta ~208 puncte ELO castigate de Leela pe grafic reprezinta ~41 puncte ELO reali.
Deci in termeni reali, in momentul asta ~208 puncte ELO castigate de Leela pe grafic reprezinta ~41 puncte ELO reali.
Code: Select all
2018-06-27 15:46 62b5417b VS 12692a83 - 334 : 68 (83.08%) 402 / 400Iulian Lungu
Re: Leela Zero
S-a testat din nou ultimul network LeelaZero (#156 la ELO 11.772) cu network-ul ELF si vad ca s-a mai redus din diferenta (11.970 - 11.772=198). Intre timp network-ul 192x15 a urcat cu 163 puncte ELO.
Deci in termeni reali, in momentul asta ~163 puncte ELO castigate de Leela pe grafic reprezinta ~79 puncte ELO reali.
Deci in termeni reali, in momentul asta ~163 puncte ELO castigate de Leela pe grafic reprezinta ~79 puncte ELO reali.
Code: Select all
2018-07-16 01:29 62b5417b VS 050375ce - 310 : 99 (75.79%) 409 / 400 Iulian Lungu
Re: Leela Zero
Mic Update:
Teoretic sa cam ajuns la limita a ce poate sa faca network-ul de 15x192
- Asta a dus la o gramada de discutii despre ce se poate face in continuare. (GCP rezista)
- Momental se incearca o solutie cu 20x256. Probabil va fi introdus cel mai bun 20x256 existent si se va merge de acolo.
Mici planuri de viitor redate de GCP:
- Congresul european de go se apropie si GCP va tine o prelegere acolo. Nu cunosc inca data dar voi posta in timp util.
Teoretic sa cam ajuns la limita a ce poate sa faca network-ul de 15x192
- Asta a dus la o gramada de discutii despre ce se poate face in continuare. (GCP rezista)
- Momental se incearca o solutie cu 20x256. Probabil va fi introdus cel mai bun 20x256 existent si se va merge de acolo.
Mici planuri de viitor redate de GCP:
Looking to the future, at some point I think it'll be necessary to have a production and a test side, split the clients say 80/20 and on the test side, run experiments where you restart from scratch and see how much (more) progress you can make in say 1-2-3 weeks compared to the baseline. Leela Zero Chess has been doing this, and I think it's a decent approach to try to find fundamental improvements.
Yes, 256x20 is still the plan for now, as soon as we have a suitable network. It's bootstrapping the latter that 's proving a bit difficult now. If there's no good 256x20 but we have a good 256x40 I'm certainly willing to just that that too.
- Congresul european de go se apropie si GCP va tine o prelegere acolo. Nu cunosc inca data dar voi posta in timp util.
"There are times when the only choices you have left are the bad ones."
Re: Leela Zero
Mic Update:
S-a trecut oficial la un network de 20x256 in data de 28-07-2018 la ora 20:05.
- S-a selectat cel mai bun network de 20x256 existent si anume versiunea 20v2 a lui bjiyxo. Promovarea sa facut fortat deoarece e mai slab decat 157 la acelasi numar de vizite.
- S-a redus numarul de vizite de antrenament de la 3200 la 1600 ca sa compenseze un pic scaderea in viteza.
- Multa lume deja a intrat in panica. Dragut ca , pana acum oamenii e plangeau ca nu se trece la un network mai mare, iar acum ca s-a trecut au aparut cei care vor reintoarcerea la 15 blocuri.
- In opinia mea networkul 158 e oleaca mai slab (circa 31 elo) fata de 157 deoarece a fost antrenat exclusiv cu partide generate de networkuri de 15 blocuri si cu mai putine filtre. Deci va trece ceva timp sa se obisnuiasca.
- Alt plus este ca acum bjiyxo va putea sa antreneze in paralel networkul sau de 40 de blocuri cu partide generate de 20x256 nu ca inainte cu 15x192.
S-a trecut oficial la un network de 20x256 in data de 28-07-2018 la ora 20:05.
- S-a selectat cel mai bun network de 20x256 existent si anume versiunea 20v2 a lui bjiyxo. Promovarea sa facut fortat deoarece e mai slab decat 157 la acelasi numar de vizite.
- S-a redus numarul de vizite de antrenament de la 3200 la 1600 ca sa compenseze un pic scaderea in viteza.
- Multa lume deja a intrat in panica. Dragut ca , pana acum oamenii e plangeau ca nu se trece la un network mai mare, iar acum ca s-a trecut au aparut cei care vor reintoarcerea la 15 blocuri.
- In opinia mea networkul 158 e oleaca mai slab (circa 31 elo) fata de 157 deoarece a fost antrenat exclusiv cu partide generate de networkuri de 15 blocuri si cu mai putine filtre. Deci va trece ceva timp sa se obisnuiasca.
- Alt plus este ca acum bjiyxo va putea sa antreneze in paralel networkul sau de 40 de blocuri cu partide generate de 20x256 nu ca inainte cu 15x192.
"There are times when the only choices you have left are the bad ones."
Return to “GO-ul si IT-ul/AI-ul”
Who is online
Users browsing this forum: No registered users and 2 guests