Kuinka paljon vettä tekoäly käyttää?

Veikkaan, että olet kuullut kaikenlaista "tekoäly juo pullon vettä muutaman kysymyksen välein" ja "se on pohjimmiltaan muutama tippa". Totuus on vivahteikkaampi. Tekoälyn vesijalanjälki vaihtelee suuresti sen mukaan, missä se toimii, kuinka pitkä kehotteen pituus on ja miten datakeskus jäähdyttää palvelimiaan. Joten kyllä, otsikkonumero on olemassa, mutta se piilee useiden varausten sisällä.

Alla puran selkeitä, päätöksentekovalmiita lukuja, selitän, miksi arviot ovat ristiriidassa keskenään, ja osoitan, kuinka rakentajat ja tavalliset käyttäjät voivat pienentää vesilaskua tulematta kestävän kehityksen munkeiksi.

Artikkelit, joita saatat haluta lukea tämän jälkeen:

🔗 Mikä on tekoälydatajoukko
Selittää, miten datajoukot mahdollistavat koneoppimisen koulutuksen ja mallien kehittämisen.

🔗 Miten tekoäly ennustaa trendejä
Näyttää, kuinka tekoäly analysoi malleja ennustaakseen muutoksia ja tulevia tuloksia.

🔗 Kuinka mitata tekoälyn suorituskykyä
Erittelee olennaiset mittarit tarkkuuden, nopeuden ja luotettavuuden arvioimiseksi.

🔗 Kuinka puhua tekoälyn kanssa
Ohjaa tehokkaita kehotusstrategioita selkeyden, tulosten ja johdonmukaisuuden parantamiseksi.

Kuinka paljon vettä tekoäly käyttää? Lyhyitä lukuja, joita voit oikeasti käyttää 📏

• Tyypillinen vaihteluväli kehotetta kohden nykyään: alle millilitrasta mediaanitekstikehotteessa yhdessä valtavirran järjestelmässä aina kymmeniin millilitroihin pidempään, tehokkaampaan vastaukseen toisessa. Esimerkiksi Googlen tuotantolaskenta raportoi mediaanitekstikehotteeksi ~0,26 ml (täysi annostelukustannus mukaan lukien) [1]. Mistralin elinkaariarvioinnissa 400 merkin avustajavastaukseksi arvioidaan ~45 ml (marginaalinen päättely) [2]. Kontekstilla ja mallilla on suuri merkitys.

• Rajamallin kouluttaminen: voi kulua miljoonia litroja vettä , pääasiassa jäähdytyksestä ja sähköntuotantoon käytetystä vedestä. Laajasti siteeratussa akateemisessa analyysissä arvioitiin, että GPT-luokan mallin kouluttamiseen ~5,4 miljoonaa litraa ~700 000 litraa paikan päällä jäähdytykseen käytettyä vettä – ja siinä esitettiin älykästä aikataulutusta vedenkulutuksen vähentämiseksi [3].

• Yleisesti ottaen datakeskukset: suuret toimipisteet käyttävät satoja tuhansia litroja päivässä suurilla operaattoreilla, ja joillakin kampuksilla kuluu enemmänkin ilmastosta ja suunnittelusta riippuen [5].

Ollaanpa rehellisiä: nuo luvut tuntuvat aluksi epäjohdonmukaisilta. Ne ovatkin. Ja siihen on hyvät syyt.

Tekoälyn vedenkulutusmittarit ✅

Hyvä vastaus kysymykseen Kuinka paljon vettä tekoäly käyttää? tulisi valita muutama ruutu:

1. Rajojen selkeys
   Sisältääkö se vain paikan päällä olevan jäähdytysveden vai myös voimalaitosten sähköntuotantoon käyttämän veden paikan ulkopuolella vedenotto ja vedenkulutus , ja soveltamisalat ovat 1-2-3, samalla tavalla kuin hiililaskennassa [3].

2. Paikan herkkyys
   Veden määrä kilowattituntia kohden vaihtelee alueen ja sähköverkkoyhdistelmän mukaan, joten sama annos voi vaikuttaa veteen eri tavoin riippuen siitä, missä se toimitetaan – tämä on keskeinen syy siihen, miksi kirjallisuudessa suositellaan aika- ja paikkatietoista aikataulutusta [3].

3. Työmäärän realismi
   Heijastaako luku mediaanituotantoa , mukaan lukien lepotila ja datakeskuksen ylimääräinen kuormitus, vai ainoastaan ​​kiihdyttimen huippukuormitusta? Google painottaa koko järjestelmän huomioimista (lepotila, suorittimet/DRAM ja datakeskuksen ylimääräinen kuormitus) päättelyn kannalta, ei pelkästään TPU-laskennan käyttöä [1].

4. Jäähdytystekniikka
   Haihdutusjäähdytys, suljetun kierron nestejäähdytys, ilmajäähdytys ja uudet suoraan sirulle -menetelmät muuttavat vedenkulutusta dramaattisesti. Microsoft on lanseeraamassa malleja, joiden tarkoituksena on poistaa jäähdytysveden käyttö tietyissä seuraavan sukupolven kohteissa [4].

5. Vuorokaudenaika ja vuodenaika
   Lämpö, ​​kosteus ja sähköverkon olosuhteet muuttavat vedenkäytön tehokkuutta tosielämässä; eräässä vaikutusvaltaisessa tutkimuksessa ehdotetaan suurten töiden ajoittamista ajankohtaan ja paikkaan, jossa vedenkulutus on alhaisempi [3].

Vedenotto vs. vedenkulutus, selitettynä 💡

• Vedenotto = joista, järvistä tai pohjavesikerroksista otettu vesi (osa palautettu).

• Kulutus = vettä, jota ei palauteta, koska se haihtuu tai sitä lisätään prosesseihin/tuotteisiin.

Jäähdytystornit kuluttavat vettä pääasiassa haihtumalla. Sähkön tuotannossa voidaan ottaa suuria määriä vettä (joskus kuluttaen osan siitä) laitoksesta ja jäähdytysmenetelmästä riippuen. Luotettava tekoälyn vesimäärä on merkitty sen raportoimaan [3].

Minne tekoälyssä vesi menee: kolme ämpäriä 🪣

1. Soveltamisala 1 – paikan päällä tapahtuva jäähdytys
   Näkyvä osa: itse datakeskuksessa haihtuva vesi. Suunnitteluvalinnat, kuten haihtuminen vs. ilma tai suljetun kierron neste, asettavat lähtötason [5].

2. Soveltamisala 2 – sähköntuotanto
   Jokainen kWh voi sisältää piilotetun vesitunnisteen; sekoitus ja sijainti määräävät työkuormasi perimän litramäärän kWh:a kohden [3].

3. Soveltamisala 3 - toimitusketju
   Sirujen valmistuksessa käytetään erittäin puhdasta vettä. Sitä ei näy "kehotteeseen perustuvassa" mittarissa, ellei rajaukseen sisälly nimenomaisesti ilmeneviä vaikutuksia (esim. täydellinen elinkaarianalyysi) [2][3].

Palveluntarjoajat numeroina, vivahteikkaasti 🧮

• Google Gemini pyytää
  täyden pinon tarjoilumenetelmää (mukaan lukien tyhjäkäynti ja laitoksen ylimääräiset kustannukset). Mediaaniteksti kehottaa noin 0,26 ml vettä ja noin 0,24 Wh energiaa; luvut heijastavat tuotantoliikennettä ja kattavia rajoja [1].

• Mistral Large 2:n elinkaari
  Harvinainen itsenäinen elinkaarianalyysi (ADEME/Carbone 4:llä) paljastaa ~281 000 m³ koulutukselle ja varhaiselle käytölle sekä päättelymarginaalin ~45 ml 400-merkkiselle avustajavastaukselle [2].

• Microsoftin tavoite: Nollavesijäähdytys
  Seuraavan sukupolven datakeskukset on suunniteltu siten, että ne eivät kuluta lainkaan vettä jäähdytykseen , ja ne perustuvat suoraan sirulle -lähestymistapoihin; järjestelmänvalvojan käyttö vaatii silti jonkin verran vettä [4].

• Yleinen datakeskusten mittakaava
  Suuret operaattorit raportoivat julkisesti keskimäärin satoja tuhansia gallonoita päivässä yksittäisillä toimipaikoilla; ilmasto ja suunnittelu nostavat tai laskevat lukuja [5].

• Aiempi akateeminen lähtötaso
  Uraauurtavassa ”janoisen tekoälyn” analyysissä arvioitiin, että GPT-luokan mallien kouluttamiseen miljoonia litroja 10–50 keskikokoista vastausta voisi vastata karkeasti 500 ml:n pulloa – vahvasti riippuen siitä, milloin/missä ne suoritetaan [3].

Miksi arviot ovat niin ristiriidassa 🤷

• Eri rajat
  Joissakin luvuissa lasketaan mukaan vain paikan päällä tapahtuva jäähdytys ; toisissa lisätään sähkön ja veden kulutus ; elinkaariarvioihin voidaan lisätä myös sirujen valmistus . Omenat, appelsiinit ja hedelmäsalaatti [2][3].

• Eri työkuormit
  Lyhyt tekstikehote ei ole pitkä multimodaalinen/koodisuoritus; eräajo-, samanaikaisuus- ja latenssitavoitteet muuttavat käyttöastetta [1][2].

• Erilaiset ilmastot ja verkot
  Haihdutusjäähdytys kuumalla ja kuivalla alueella ≠ ilma-/nestejäähdytys viileällä ja kostealla alueella. Verkon veden intensiteetti vaihtelee suuresti [3].

• Toimittajien menetelmät
  Google julkaisi koko järjestelmän kattavan tarjoilumenetelmän; Mistral julkaisi muodollisen elinkaarianalyysin. Toiset tarjoavat piste-arvioita harvoilla menetelmillä. Paljon huomiota "viidetoistaosa teelusikallista" per tuote pääsi otsikoihin – mutta ilman yksityiskohtaisia ​​rajoja se ei ole vertailukelpoinen [1][3].

• Liikkuva kohde
  Jäähdytys kehittyy nopeasti. Microsoft pilotoi vedetöntä jäähdytystä tietyissä kohteissa; näiden käyttöönotto vähentää paikan päällä olevaa vedenkulutusta, vaikka ylävirran sähköverkko kuljettaisi edelleen vesisignaalia [4].

Mitä voit tehdä tänään pienentääksesi tekoälyn vesijalanjälkeä 🌱

1. Mallin oikea koko
   Pienemmät, tehtäväkohtaisesti viritetyt mallit vastaavat usein tarkkuutta, mutta kuluttavat vähemmän laskentatehoa. Mistralin arvio korostaa vahvoja koon ja jalanjäljen välisiä korrelaatioita – ja julkaisee marginaaliset päättelyluvut, jotta voit päätellä kompromisseista [2].

2. Valitse vedenkäytöltään viisaita alueita
   Suosi alueita, joissa on viileämpi ilmasto, tehokas jäähdytys ja sähköverkot, joiden vedenkulutus kWh-kohtaisesti on alhaisempi; ”thirsty AI” -tutkimus osoittaa, että aika- ja paikkatietoinen aikataulutus auttaa [3].

3. Siirrä työkuormia ajallisesti
   Aikatauluta koulutus/raskaiden erien päättely vesitehokkaille tunneille (viileämmät yöt, suotuisat verkko-olosuhteet) [3].

4. Pyydä toimittajaltasi läpinäkyviä mittareita, kuten
   kysyntää ajantasaisesti , rajojen määritelmiä ja sitä, sisältävätkö luvut käyttämättömän kapasiteetin ja laitoksen yleiskustannukset. Poliittiset ryhmät ajavat pakollista tiedonantoa, jotta vertailut olisivat mahdollisia [3].

5. Jäähdytystekniikalla on merkitystä
   Jos käytät laitteistoa, harkitse suljetun kierron/suoraan sirulle tapahtuvaa jäähdytystä ; jos käytät pilvipalvelua, suosi alueita/palveluntarjoajia, jotka investoivat vesikevyisiin ratkaisuihin [4][5].

6. Käytä harmaata vettä ja uudelleenkäyttövaihtoehtoja
   Monet kampukset voivat korvata juomakelvottomia lähteitä tai kierrättää niitä kiertojen sisällä; suuret toimijat kuvaavat vesilähteiden ja jäähdytysvaihtoehtojen tasapainottamista nettovaikutusten minimoimiseksi [5].

Lyhyt esimerkki todellisuudesta (ei universaali sääntö): yön yli kestävän koulutustyön siirtäminen kuumalta ja kuivalta alueelta keskikesällä viileämmälle ja kosteammalle alueelle keväällä – ja sen suorittaminen ruuhka-ajan ulkopuolella, viileämpinä aikoina – voi muuttaa sekä paikan päällä tapahtuvaa vedenkäyttöä että sen ulkopuolista (sähköverkkoon) vedenkäyttöintensiteettiä. Tällainen käytännöllinen ja vähädramaattinen aikataulutus voi mahdollistaa [3].

Vertailutaulukko: pikavinkkejä tekoälyn vesimaksujen alentamiseksi 🧰

(”Hinta” on suunnittelultaan kömpelö – käyttöönotot vaihtelevat.)

Syväsukellus: politiikan rumpujen tärinä voimistuu 🥁

Insinööritoimistot vaativat datakeskusten energian ja veden kulutuksen julkistamista pakolliseksi

Syväsukellus: kaikki datakeskukset eivät ime samalla tavalla 🚰

Vallalla on itsepintainen myytti, että ”ilmajäähdytys ei käytä vettä”. Ei aivan. Ilmapainotteiset järjestelmät vaativat usein enemmän sähköä , joka monilla alueilla kuljettaa piilotettua vettä verkosta. Toisaalta vesijäähdytys voi vähentää energiankulutusta ja päästöjä paikan päällä olevan veden kustannuksella. Suuret toimijat tasapainottavat näitä kompromisseja nimenomaisesti laitoskohtaisesti [1][5].

Syväsukellus: nopea katsaus viraaliväitteisiin 🧪

Olet ehkä nähnyt rohkeita väitteitä, joiden mukaan yksi ainoa tehtävä vastaa ”vesipulloa” tai toisaalta ”vain muutamaa tippaa”. Parempi ryhti: nöyryyttä matematiikan kanssa . Nykypäivän uskottavat rajat ovat ~0,26 ml mediaanituotantotehtävälle täydellä annostelukulutuksella [1] ja ~45 ml 400 merkin avustajan vastaukselle (marginaalinen päättely) [2]. Paljon jaetulla ”viidetoistaosa teelusikallista” -väitteellä ei ole julkista rajaa/menetelmää; kohtele sitä kuin sääennustetta ilman kaupunkia [1][3].

Mini-UKK: Kuinka paljon vettä tekoäly käyttää? jälleen, selkokielellä 🗣️

• Mitä minun siis pitäisi sanoa kokouksessa?
  ”Kehotteen mukaan määrä vaihtelee tipasta muutamaan kulaukseen mallista, pituudesta ja siitä, missä se valuu. Harjoittelussa tarvitaan altaita , ei lätäköitä.” Mainitse sitten yksi tai kaksi esimerkkiä yllä.

• Onko tekoäly ainutlaatuisen huono?
  Se on ainutlaatuisen keskittynyt : yhteen pakatut tehokkaat sirut aiheuttavat suuria jäähdytyskuormia. Mutta datakeskukset ovat myös paikkoja, joissa tehokkain teknologia yleensä päätyy ensin [1][4].

• Entä jos siirrämme kaiken ilmajäähdytykseen?
  Saatat vähentää paikan päällä käytettävää vettä, mutta lisätä sen ulkopuolista kulutusta sähkön avulla. Kokeneet operaattorit punnitsevat molempia [1][5].

• Entä tulevaisuuden teknologia?
  Suunnitelmat, jotka välttävät jäähdytysveden käyttöä laajamittaisesti, muuttaisivat Scope 1:n alan suuntaa. Jotkut operaattorit ovat siirtymässä tähän suuntaan; ylävirran sähkö kuljettaa edelleen vesisignaalia, kunnes sähköverkot muuttuvat [4].

Loppusanat - Liian pitkä, en lukenut sitä 🌊

• Kehotteen mukaan: ajattele alle millilitrasta kymmeniin millilitroihin mallista, kehotteen pituudesta ja sijainnista riippuen. Kehotteen mediaani on ~0,26 ml yhdellä pääpinolla; ~45 ml 400-merkkisellä vastauksella toisella [1][2].

• Koulutus: miljoonia litroja rajaseudun malleille, mikä tekee aikataulutuksesta, sijoittelusta ja jäähdytystekniikasta kriittisen tärkeää [3].

• Mitä tehdä: oikean kokoiset mallit, vedenkäytöltään viistävät alueet, raskaat työt viileämpiin aikoihin, suosi vedenkestäviä malleja toimittavia toimittajia ja vaadi läpinäkyviä rajoja [1][3][4][5].

Hieman virheellinen kielikuva loppuun: tekoäly on janoinen orkesteri – melodia on laskennallista, mutta rummut jäähtyvät ja virtaavat vesiverkkoon. Viritä bändi, ja yleisö saa silti musiikin kuulua ilman, että sprinklerit alkavat soida. 🎻💦

Viitteet

1. Google Cloud Blog - Kuinka paljon energiaa Googlen tekoäly käyttää? Teimme laskelman (metodologia + ~0,26 ml:n mediaanikehote, täyden annoksen lisäkustannukset). Linkki
   (Tekninen artikkeli PDF: Tekoälyn toimittamisen ympäristövaikutusten mittaaminen Googlen mittakaavassa .) Linkki

2. Mistral AI - Panoksemme tekoälyn globaaliin ympäristöstandardiin (LCA ADEME/Carbone 4:llä; ~281 000 m³ koulutus + varhainen käyttö; ~45 ml per 400-tokeninen vastaus, marginaalinen päättely). Linkki

3. Li ym. - Tekoälyn "janoisuuden vähentäminen": tekoälymallien salaisen vesijalanjäljen paljastaminen ja käsittely miljoonien litrojen kouluttaminen , aika- ja paikkatietoinen aikataulutus, vedenotto vs. kulutus). Linkki

4. Microsoft - Seuraavan sukupolven datakeskukset eivät kuluta lainkaan vettä jäähdytykseen (suoraan sirulle -ratkaisut, joissa pyritään vedettömään jäähdytykseen tietyissä toimipisteissä). Linkki

5. Googlen datakeskukset - Kestävä toiminta (jäähdytyksen kompromissit toimipaikasta toiseen; raportointi ja uudelleenkäyttö, mukaan lukien kierrätetty/harmaavesi; tyypillinen päivittäinen käyttö toimipaikkakohtaisesti suuruusluokittain). Linkki

Löydä uusimmat tekoälytuotteet virallisesta tekoälyavustajakaupasta

Tietoa meistä