1/12 Töissä tulee aika paljon altistuttua erilaisille tekoälymyllerryksille.
-
12/13 Esimerkki raskaammasta tilanteesta. Nykyään on aika tavallista, että malli ei vain vastaa yhteen kysymykseen, vaan sillä on työkaluja materiaalin hakemiseen käsiteltäväksi. Tällöin varsinkin sisään tulevia input-tokenien määrä voi lyhyellekin kysymykselle olla 14 tokenin sijaan esim satoja tuhansia.
Esimerkiksi jos malli käyttää työkaluja jonkin isomman ohjelmakoodin kahlaamiseen, niin se miljoonakin tokenia voi olla nielaistuna aika nopeasti.
Tähän käytetään usein kalliita malleja.
13/13 Tässä ei nyt ollut pointtina, etteikö tekoälyvehkeille ympäristövaikutuksia olisi. Ihan varmasti on. Mutta näihin perustuvassa kritiikissä kannattaa minusta huomioida toimintaan liittyvien vaikutusten mittakaava.
Itse olen generatiivisen tekoälyn suhteen akuutimmin huolissani yhteiskunnallisista ja sosiaalisista vaikutuksita, kuin ympäristöön liittyvistä.
Ja näin ihan makuasiana pidän pääsääntöisesti kokonaan tekoälyllä tehtyjä juttuja - esim kuvituskuvina - joka tapauksessa mauttomina.
-
6/12 Kun tiedetään esimerkkinä käyttämäni viestinvaihdon palvelemiseen liittyvien tokenien kappalemäärä (14 sisään / 986 ulos) ja hinta ($0.5 / $1.5 / Mtok), niin voidaan laskea näistä:
(14 * $0.5 + 986 * $1.5) / 1000000 = $0.001486
Lukema on vähän hankalan näköinen, mutta käytännössähän tuo on noin puolitoista dollarin tuhannesosaa.
Suuruusluokkamielessä ei mene paljoa pieleen, vaikka ajattelisi myös euron tuhannesosina.
Meillä Aallossa AI-liittymä on jo pitkään näyttänyt hintaa ja kyllä sen aika nopesti saa kymmeniin sentteihin aika yksinkertaisilla kysymyksillä. GPT:n eri versioita Azuressa ajettuna.
@muep -
R ActivityRelay shared this topic
-
Meillä Aallossa AI-liittymä on jo pitkään näyttänyt hintaa ja kyllä sen aika nopesti saa kymmeniin sentteihin aika yksinkertaisilla kysymyksillä. GPT:n eri versioita Azuressa ajettuna.
@muep@puhuri käytän siviilipuolella aika suuren osan tuolleen rajapinta-avaimella tokenimäärän mukaan laskutetusti. Jos on ihan perus chattikäyttöä eikä sen kummempaa, niin pääsen joinakin kuukausina sinne kymmeniin sentteihin
Mutta näissä chattituotteissakin on todella isoja eroja sen suhteen että miten paljon ne syövät muutakin syötettä kuin käyttäjältä tulleen kehotteen (esim jos on web-hakuja tai vaikka kontekstina annettuja tiedostoja tms).
Ja akateemisilla voi olla kans ne kalliimmat mallit.
-
13/13 Tässä ei nyt ollut pointtina, etteikö tekoälyvehkeille ympäristövaikutuksia olisi. Ihan varmasti on. Mutta näihin perustuvassa kritiikissä kannattaa minusta huomioida toimintaan liittyvien vaikutusten mittakaava.
Itse olen generatiivisen tekoälyn suhteen akuutimmin huolissani yhteiskunnallisista ja sosiaalisista vaikutuksita, kuin ympäristöön liittyvistä.
Ja näin ihan makuasiana pidän pääsääntöisesti kokonaan tekoälyllä tehtyjä juttuja - esim kuvituskuvina - joka tapauksessa mauttomina.
@muep hienoa että jaksoit laskea tuon. En usko että yksittäisen kyselyn hiilijalanjälkeä kukaan tällä hetkellä pystyy laskemaan. Kasvu-aloilla tosin useinkin myydään itseään tarkoituksella liian halvalla jotta saadaan markkinaosuutta, jolla voidaan saada lisää sijoittajia. Esim hinnan korotuksista: disney+ hinta on noussut 57% julkaisustaan.
Itseäni huolestuttaa että tekoälyn arvioidaan vievän kymmeniä prosentteja maailman sähkön tuotannosta. Sille voidaan hiilijalanjälki laskea. -
13/13 Tässä ei nyt ollut pointtina, etteikö tekoälyvehkeille ympäristövaikutuksia olisi. Ihan varmasti on. Mutta näihin perustuvassa kritiikissä kannattaa minusta huomioida toimintaan liittyvien vaikutusten mittakaava.
Itse olen generatiivisen tekoälyn suhteen akuutimmin huolissani yhteiskunnallisista ja sosiaalisista vaikutuksita, kuin ympäristöön liittyvistä.
Ja näin ihan makuasiana pidän pääsääntöisesti kokonaan tekoälyllä tehtyjä juttuja - esim kuvituskuvina - joka tapauksessa mauttomina.
@muep Otitko huomioon tässä sen, että kun kysyt esim. ChatGPT:ltä jotain, se ei käsittele pelkästään kysymystäsi vaan koko viestihistorian kanssasi? Jos siis palvelua käyttää kysyäkseen tarkentavia kysymyksiä, malli käsittelee aikaisemmat kysymykset ja vastaukset, jotta osaa käsitellä uuden kysymyksen suhteessa niihin. Eikö tässä tilanteessa tokenien määrä pomppaa aika moninkertaiseksi per lähetetty viesti?
-
@muep Otitko huomioon tässä sen, että kun kysyt esim. ChatGPT:ltä jotain, se ei käsittele pelkästään kysymystäsi vaan koko viestihistorian kanssasi? Jos siis palvelua käyttää kysyäkseen tarkentavia kysymyksiä, malli käsittelee aikaisemmat kysymykset ja vastaukset, jotta osaa käsitellä uuden kysymyksen suhteessa niihin. Eikö tässä tilanteessa tokenien määrä pomppaa aika moninkertaiseksi per lähetetty viesti?
@snailkane voi pompata, mutta en usko että chatgpt lapioi sinne joka kerta koko viestihistorian. Luultavasti joko ennalta muodostetun tiivistelmäntapaisen, tai sitten tekee jonkinlaisen tekstihaun jolla yrittää poimia oleellisimmat
Yleensä vastausten laatu huononee, jos mallille annetaan turhaa kontekstia. Minulla on nuo muistitoiminnot useimmiten pois päältä.
-
@muep hienoa että jaksoit laskea tuon. En usko että yksittäisen kyselyn hiilijalanjälkeä kukaan tällä hetkellä pystyy laskemaan. Kasvu-aloilla tosin useinkin myydään itseään tarkoituksella liian halvalla jotta saadaan markkinaosuutta, jolla voidaan saada lisää sijoittajia. Esim hinnan korotuksista: disney+ hinta on noussut 57% julkaisustaan.
Itseäni huolestuttaa että tekoälyn arvioidaan vievän kymmeniä prosentteja maailman sähkön tuotannosta. Sille voidaan hiilijalanjälki laskea.@aqunt joo, kokonaisuudessaan tuo on isosti it-infraa paisuttava asia.
Isot käyttäjät kuitenkin käyttävät näitä monta suuruusluokkaa enemmän, kuin mitä ihan peruskäyttäjä tyypillisesti käyttää. Ja näiltä sitä rahaa infralaajennosten maksamiseen odotetaan saatavan, ennemmin kuin palveluiden maksuttomia versioita käyttäviltä.
Tosin esim sekin nyt huolettaa, kun on varmaan vain ajan kysymys, että ainakin maksuttomat alkavat mainosrahoitteisiksi.
-
@snailkane voi pompata, mutta en usko että chatgpt lapioi sinne joka kerta koko viestihistorian. Luultavasti joko ennalta muodostetun tiivistelmäntapaisen, tai sitten tekee jonkinlaisen tekstihaun jolla yrittää poimia oleellisimmat
Yleensä vastausten laatu huononee, jos mallille annetaan turhaa kontekstia. Minulla on nuo muistitoiminnot useimmiten pois päältä.
@snailkane mietin siis vielä, että tuskin on myöskään OpenAI:n intressissä laittaa malliin sisään mahdollisimman paljon, vaan vain sen verran että käyttäjälle tulee kokemus siitä että malli muistaa.
Vaikka ChatGPT ei sitä syötteen kasvusta johtuvaa kulujen kasvua näytä käyttäjälle, niin OpenAI:n tuloksessahan se näkyy, jos saavat käsiteltyä viestit nopeasti ja pärjäävät pienemmällä määrällä kapasiteettia.
-
@aqunt joo, kokonaisuudessaan tuo on isosti it-infraa paisuttava asia.
Isot käyttäjät kuitenkin käyttävät näitä monta suuruusluokkaa enemmän, kuin mitä ihan peruskäyttäjä tyypillisesti käyttää. Ja näiltä sitä rahaa infralaajennosten maksamiseen odotetaan saatavan, ennemmin kuin palveluiden maksuttomia versioita käyttäviltä.
Tosin esim sekin nyt huolettaa, kun on varmaan vain ajan kysymys, että ainakin maksuttomat alkavat mainosrahoitteisiksi.
@muep Ei koske vain it-infraa vaan koko globaali sähköntuotanto ja -jakelu vaatii huomattavaa kasvattamista tekoälyä varten samaan aikaan kun lisäsähköä tarvitaan myös liikenteeseen ja teräkseen. Kaikkeen ei riitä joten mikä näistä kolmesta voidaan jättää huomioimatta? Nyt Suomessa tehtiin valinta että terästä ei sähköistetä ja annettiin luvat uusille konesaleilla jonka johdosta SSAB puskee hiiltä taivaalle viel ainakin 10 vuotta. Missä muissa maissa tehdään vastaavia ratkaisuja?
-
@muep hienoa että jaksoit laskea tuon. En usko että yksittäisen kyselyn hiilijalanjälkeä kukaan tällä hetkellä pystyy laskemaan. Kasvu-aloilla tosin useinkin myydään itseään tarkoituksella liian halvalla jotta saadaan markkinaosuutta, jolla voidaan saada lisää sijoittajia. Esim hinnan korotuksista: disney+ hinta on noussut 57% julkaisustaan.
Itseäni huolestuttaa että tekoälyn arvioidaan vievän kymmeniä prosentteja maailman sähkön tuotannosta. Sille voidaan hiilijalanjälki laskea.@aqunt @muep Hiilen lisäksi pitää laskea luontojalanjälki. Datakeskus aiheuttaa maankäytön muutosta ja luontokatoa, ei pelkästään itse keskuksen alueella, vaan myös sähköntuotantoon ja siirtolinjoihin tarvittavilla alueilla. Kasvava sähkönkulutus aiheuttaa lisääntyvää luontokatoa Suomessakin.
Keskusten varavoimahan on fossiilista ja generaattoreita on koekäytettävä säännöllisesti. Käytännössä keskusten laskentatehoa ei siis tuoteta 100 % uusiutuvilla (joilla tosiaan on haittansa niilläkin).
-
@aqunt @muep Hiilen lisäksi pitää laskea luontojalanjälki. Datakeskus aiheuttaa maankäytön muutosta ja luontokatoa, ei pelkästään itse keskuksen alueella, vaan myös sähköntuotantoon ja siirtolinjoihin tarvittavilla alueilla. Kasvava sähkönkulutus aiheuttaa lisääntyvää luontokatoa Suomessakin.
Keskusten varavoimahan on fossiilista ja generaattoreita on koekäytettävä säännöllisesti. Käytännössä keskusten laskentatehoa ei siis tuoteta 100 % uusiutuvilla (joilla tosiaan on haittansa niilläkin).
@kaarne @aqunt toki jos haluaa laskea tarkkaan, niin siinä on monenlaista.
Ongelma minusta tälleen it-häkkyröitä suunnittelevana on, että toisin kuin datakeskustasolla, tietoa yksittäisten palveluiden vaikutusten tarkempaan laskemiseen ei oikein ole saatavilla.
Mutta uskoisin kuitenkin, että rahaliikenteen mukaan ne vaikutukset jyvittämällä ei mene ihan hulvattomasti metsään.
-
@aqunt @muep Hiilen lisäksi pitää laskea luontojalanjälki. Datakeskus aiheuttaa maankäytön muutosta ja luontokatoa, ei pelkästään itse keskuksen alueella, vaan myös sähköntuotantoon ja siirtolinjoihin tarvittavilla alueilla. Kasvava sähkönkulutus aiheuttaa lisääntyvää luontokatoa Suomessakin.
Keskusten varavoimahan on fossiilista ja generaattoreita on koekäytettävä säännöllisesti. Käytännössä keskusten laskentatehoa ei siis tuoteta 100 % uusiutuvilla (joilla tosiaan on haittansa niilläkin).
-
@puhuri @kaarne @aqunt @muep mites biodieselin säilyvyys? Vai onko tää Neste MY kyseessä? Jos mainospuheisiin uskoo niin ilmeisesti ratkaistu säilyvyys ja lisäksi valmistettu “100-prosenttisesti jäte- ja tähderaaka-aineista“ https://www.neste.fi/yrityksille/tuotteet/polttoaineet/neste-my-uusiutuva-diesel
-
@kaarne @aqunt toki jos haluaa laskea tarkkaan, niin siinä on monenlaista.
Ongelma minusta tälleen it-häkkyröitä suunnittelevana on, että toisin kuin datakeskustasolla, tietoa yksittäisten palveluiden vaikutusten tarkempaan laskemiseen ei oikein ole saatavilla.
Mutta uskoisin kuitenkin, että rahaliikenteen mukaan ne vaikutukset jyvittämällä ei mene ihan hulvattomasti metsään.
@muep @kaarne @aqunt pointtina pitäisi olla laskea tarkkaan. Jos keskitytään vain talouskuplassa olevan teknologian kustannuksiin käyttäjille juuri tällä hetkellä, niin siinä ohitetaan aika monta asiaa, esim. se olennainen ympäristö kokonaisuudessaan. Muutenkin ajatus siitä, että hinta määrittelisi ilmastovaikutuksia… Kun ajattelee ruokaa ja liikennettä, ympäristölle haitallisia valintoja pidetään keinotekoisesti alhaalla kuluttajille.
-
@muep @kaarne @aqunt pointtina pitäisi olla laskea tarkkaan. Jos keskitytään vain talouskuplassa olevan teknologian kustannuksiin käyttäjille juuri tällä hetkellä, niin siinä ohitetaan aika monta asiaa, esim. se olennainen ympäristö kokonaisuudessaan. Muutenkin ajatus siitä, että hinta määrittelisi ilmastovaikutuksia… Kun ajattelee ruokaa ja liikennettä, ympäristölle haitallisia valintoja pidetään keinotekoisesti alhaalla kuluttajille.
Eihän hinta tietenkään automaattisesti määrittele niitä vaikutuksia - osa suhteellisen kalliistakin asioista voi olla ympäristöystävällisiä.
Mutta yleensä jos johonkin liiketoimintaan liittyy negatiivisia ympäristövaikutuksia, kuten vaikka luonnonvaraintensiivisiin yleensä liittyy, niin haitoilla on kyllä taipumus skaalautua suunnilleen suhteessa liiketoiminnan kokoon.
En missään nimessä ole tarkempaa laskemista vastaan, mutta itselleni sitä ei arjessa ole saatavilla.
-
Eihän hinta tietenkään automaattisesti määrittele niitä vaikutuksia - osa suhteellisen kalliistakin asioista voi olla ympäristöystävällisiä.
Mutta yleensä jos johonkin liiketoimintaan liittyy negatiivisia ympäristövaikutuksia, kuten vaikka luonnonvaraintensiivisiin yleensä liittyy, niin haitoilla on kyllä taipumus skaalautua suunnilleen suhteessa liiketoiminnan kokoon.
En missään nimessä ole tarkempaa laskemista vastaan, mutta itselleni sitä ei arjessa ole saatavilla.
-
@diiccix @kaarne @aqunt Halpoja ovat koska kaikkia ympäristövaikutuksia ei ole hinnoiteltu mukaan, ja myös koska saavat mittavia tukia yhteiskunnalta. En oikeastaan usko, että esimerkiksi julkisen pilvi-infrankaan hintoihin kaikkea on hinnoiteltu, mutta olettaisin että yhteiskunnan tuki niille on esimerkiksi maataloustukia pienempi.
Mutta esimerkiksi tehotuotetun lihankin osalta on vaikutuksissa iso ero sen suhteen, kulutetaanko sitä vähän vai paljon, ja tämä korreloi vahvasti hintaan.
-
@diiccix @kaarne @aqunt Halpoja ovat koska kaikkia ympäristövaikutuksia ei ole hinnoiteltu mukaan, ja myös koska saavat mittavia tukia yhteiskunnalta. En oikeastaan usko, että esimerkiksi julkisen pilvi-infrankaan hintoihin kaikkea on hinnoiteltu, mutta olettaisin että yhteiskunnan tuki niille on esimerkiksi maataloustukia pienempi.
Mutta esimerkiksi tehotuotetun lihankin osalta on vaikutuksissa iso ero sen suhteen, kulutetaanko sitä vähän vai paljon, ja tämä korreloi vahvasti hintaan.
@muep @kaarne @aqunt todellisia ympäristövaikutuksia ei hinnoitella mukaan, jos ei tarvitse, se ei ole liiketoiminnalle kannattavaa. Kaikki negatiiviset ympäristövaikutukset kun ei tuotannossakaan aivan välittömästi näy kuluina. Puiden hakkaamiselle on tietty hinta, mutta mikä se hinta lopulta on avohakkuun jälkeen? Eläinteollisuudesta tulee kaikenlaisia päästöjä, joille ei ns. voi mitään, mutta ne silti vaikuttavat ympäristöön, vaikkei juuri niiden tuottamiseen erikseen kulu rahaa.
-
@puhuri @kaarne @aqunt @muep mites biodieselin säilyvyys? Vai onko tää Neste MY kyseessä? Jos mainospuheisiin uskoo niin ilmeisesti ratkaistu säilyvyys ja lisäksi valmistettu “100-prosenttisesti jäte- ja tähderaaka-aineista“ https://www.neste.fi/yrityksille/tuotteet/polttoaineet/neste-my-uusiutuva-diesel
Biodieselin alkuperä ei tullut puheeksi.
Tosin arvelen kyseisen datakeskuksen energiakulujen olevan varsin pieni osuus sieltä myytävästä lisäarvosta, joten on "varaa" tehdä asiat kirkasotsaisesti verrattuna "halpaa vps- ja gpu-tuntihotellia SaaS-tarjontaan" vaihtoehtoon.
@karppinen @kaarne @aqunt @muep -
@muep @kaarne @aqunt todellisia ympäristövaikutuksia ei hinnoitella mukaan, jos ei tarvitse, se ei ole liiketoiminnalle kannattavaa. Kaikki negatiiviset ympäristövaikutukset kun ei tuotannossakaan aivan välittömästi näy kuluina. Puiden hakkaamiselle on tietty hinta, mutta mikä se hinta lopulta on avohakkuun jälkeen? Eläinteollisuudesta tulee kaikenlaisia päästöjä, joille ei ns. voi mitään, mutta ne silti vaikuttavat ympäristöön, vaikkei juuri niiden tuottamiseen erikseen kulu rahaa.
@diiccix @muep @aqunt Niin, Suomeen ja muuallekin tarvittaisiin se maankäytön muutosmaksu tai todellista haittaa vastaava luontohaittavero. Niin kauan kuin haitan aiheuttaminen ei maksa mitään, perseily jatkuu. Maankäytön muutoksen lisäksi pitää laskea hinta myös heijastevaikutuksille: esim. sähkösyöpön datakeskuksen vaikutuksiin kuuluu lintukuolemat ja hyönteisten väheneminen tuulivoimala-alueilla.
