1/12 Töissä tulee aika paljon altistuttua erilaisille tekoälymyllerryksille.
-
@muep Tällaiset laskelmat on aina mielenkiintoisia. Ja asiaa voisi lähestyä myös toisesta suunnasta.
Gartner arvio joku kk sitten, et 2030 dadacenterit vie sähköä 980 TWh ja siitä 44% on kielimallien tarpeisiin. Tämä olisi 431 200 000 MWh ja jos MWh keskihinta olis vaikka 70€ ja tekoälyllä käyttäjiä 6 Mrd niin kustannus olisi noin 5 euroa käyttäjää kohti joka tunti pelkälle energian hinnalle.
@muep Ja saman Gartnerin jutun mukaan 2025 kielimallien sähköntarve on 93TWh jonka kustannus olis samalla kaavalla taas 6mrd käyttäjällä käyttäjää kohti noin euron tunnissa. Eli pakkohan tässä mun laskelmassa on jonkun kustava ja tosi pahasti, kun toi ero on niin valtava. Ei kukaan yksityinen maksa 25€ päivä näiden mallien käytöstä.
-
@muep Ja saman Gartnerin jutun mukaan 2025 kielimallien sähköntarve on 93TWh jonka kustannus olis samalla kaavalla taas 6mrd käyttäjällä käyttäjää kohti noin euron tunnissa. Eli pakkohan tässä mun laskelmassa on jonkun kustava ja tosi pahasti, kun toi ero on niin valtava. Ei kukaan yksityinen maksa 25€ päivä näiden mallien käytöstä.
@mve yksi tekijä voisi olla, että noissa rajapintojen ja tuotteistetumpien palveluiden loppukäyttäjien laskuissa ei ehkä tällä hetkellä näy valtavasti uusien mallien koulutus, mikä siihen valmiin mallin ajamiseen verrattuna aika energiaintensiivistä.
Nythän siellä on kuitenkin sitä sijoittajien rahaa sisässä pipona, ja sillä sitten koetetaan tuottaa kaikenlaista semmoista minkä odotetaan tuottavan vasta myöhemmin, kun se on ensin kehitetty valmiiksi.
Ei välttämättä selitä koko eroa
-
@muep Ja saman Gartnerin jutun mukaan 2025 kielimallien sähköntarve on 93TWh jonka kustannus olis samalla kaavalla taas 6mrd käyttäjällä käyttäjää kohti noin euron tunnissa. Eli pakkohan tässä mun laskelmassa on jonkun kustava ja tosi pahasti, kun toi ero on niin valtava. Ei kukaan yksityinen maksa 25€ päivä näiden mallien käytöstä.
@mve tuommoista kymmenien eurojen päivähintaakin olen kuullut joidenkin maksavan ainakin hetkittäin, mutta toki se on aika erikoistapaus että niin käy. Systeeminlaajuisesti keskimääräinen rahavirta per käyttäjä on varmasti paljon, paljon alempi
-
@mve tuommoista kymmenien eurojen päivähintaakin olen kuullut joidenkin maksavan ainakin hetkittäin, mutta toki se on aika erikoistapaus että niin käy. Systeeminlaajuisesti keskimääräinen rahavirta per käyttäjä on varmasti paljon, paljon alempi
@muep Ja sekin pitäis huomioida, noissa mun laskuissa on vaan energian hinta. Ei sähkön siirtoa, veroja, dadakeskuksen rakentamista, tarvittavia laitteita, työntekijöiden palkkoja, mallien koulutuksen kuluja jne.
Ne pitää myös saada laskutettua asiakkailta ja mä en saa tuota yhtälöä millään päässäni kannattavaksi. Sijoittajat tulee vielä menettämään tän takia satoja miljardeja rahaa lähivuosina.
-
@mve yksi tekijä voisi olla, että noissa rajapintojen ja tuotteistetumpien palveluiden loppukäyttäjien laskuissa ei ehkä tällä hetkellä näy valtavasti uusien mallien koulutus, mikä siihen valmiin mallin ajamiseen verrattuna aika energiaintensiivistä.
Nythän siellä on kuitenkin sitä sijoittajien rahaa sisässä pipona, ja sillä sitten koetetaan tuottaa kaikenlaista semmoista minkä odotetaan tuottavan vasta myöhemmin, kun se on ensin kehitetty valmiiksi.
Ei välttämättä selitä koko eroa
@muep @mve Lähtisin kanssa lähestymään asiaa ennemmin tuolta ylätasolta kuin kuluttajapuolelta. En usko että kielimallien rajapintoihin käytetty euro on millään lailla tällä hetkellä vertailukelpoinen muiden pilvipalveluiden eurojen kanssa. Microslopin toimarikin taisi hetki sitten varoitella siitä että jos kohta ei onnistuta kehittämään näille jotain tuottoisaa käyttöä, niin sosiaalinen ja taloudellinen oikeutus menee alta.
-
@mve tuommoista kymmenien eurojen päivähintaakin olen kuullut joidenkin maksavan ainakin hetkittäin, mutta toki se on aika erikoistapaus että niin käy. Systeeminlaajuisesti keskimääräinen rahavirta per käyttäjä on varmasti paljon, paljon alempi
-
-
@muep @mve Lähtisin kanssa lähestymään asiaa ennemmin tuolta ylätasolta kuin kuluttajapuolelta. En usko että kielimallien rajapintoihin käytetty euro on millään lailla tällä hetkellä vertailukelpoinen muiden pilvipalveluiden eurojen kanssa. Microslopin toimarikin taisi hetki sitten varoitella siitä että jos kohta ei onnistuta kehittämään näille jotain tuottoisaa käyttöä, niin sosiaalinen ja taloudellinen oikeutus menee alta.
@jruoh @mve minun odotus olisi, että se on rajatussa määrin vertailukelpoinen. En pidä selvänä että niistä jää tarjoajalle voittoa vastaavasti kuin perinteisempien laskentapalveluiden käytöstä, mutta olettaisin että nykyiset hinnat on semmoisia, mistä viimeistään maltillisilla hinnankorotuksilla mallin tarjoaja voisi odottaa pääsevänsä voitolle.
Toki voin olla tästä ihan väärässäkin, ja sitten todnäk tulee aika hulina, kun porukan on pakko suunnittella bisnesmallinsa kiireessä uusiksi.
-
Jännä olisi tietää, moniko noista premium-maksajista oikeasti on tuottoisia (varmaan osa, koska markkinointi "netflixin katsomiseen tarvitset 1000 Mbit/s liittymän") ja monellako niistä tulee takkiin. Sama tietysti edullisimmissakin luokissa – paitsi, että 0 € kategoria tuottaa varmasti tappiota. En usko mainosten kuittaavan edes osaa.
@mve @muep -
@puhuri @kaarne @aqunt @muep mites biodieselin säilyvyys? Vai onko tää Neste MY kyseessä? Jos mainospuheisiin uskoo niin ilmeisesti ratkaistu säilyvyys ja lisäksi valmistettu “100-prosenttisesti jäte- ja tähderaaka-aineista“ https://www.neste.fi/yrityksille/tuotteet/polttoaineet/neste-my-uusiutuva-diesel
@karppinen Tähän huomiona, että kun puhutaan jäte- ja tähderaaka-aineista, puhutaan mm. palmuöljytisleestä, jota siis syntyy palmuöljyn tuotannossa.
Suomessa se on luokiteltu jätteeksi, esim. Ruotsissa puolestaan sivutuotteeksi. Se on myös itsenäinen raaka-aine, jolla palmuöljy voidaan korvata monessa käyttötarkoituksessa. Jätteeksi luokittelemalla sen verokohtelu on kuitenkin erilainen, ja voidaan esim. mainostaa tuotteen olevan 100 % jätteistä valmistettu.
-
@puhuri @aqunt @muep Palmuöljyhän on yleisesti ottaen biodieselin tärkeimpiä raaka-aineita, ja sen tuotanto ei ole kestävää missään vaan kiihdyttää sekä metsäkatoa että ilmastonmuutosta. Jos biodieseliin mainostetaan käytettävän elintarviketuotannon jätettä, saa olla tosi tarkkana, sisältääkö tää myös palmuöljyn tuotannossa syntyvää jätettä.
@kaarne Olen tätä aiemminkin sanonut, mutta kinkkutemppu on kyllä yksi mahtavimpia propagandakampanjoja tällä saralla. Siinä kätevästi viherpestään joulukinkkua ja samalla synnytetään mielikuva, että tällaisilla maitopurkin pohjalle kerättävillä paistorasvajäänteillä ajettaisiin mittaviakin kilometrimääriä. @puhuri @aqunt @muep
-
@jruoh @mve minun odotus olisi, että se on rajatussa määrin vertailukelpoinen. En pidä selvänä että niistä jää tarjoajalle voittoa vastaavasti kuin perinteisempien laskentapalveluiden käytöstä, mutta olettaisin että nykyiset hinnat on semmoisia, mistä viimeistään maltillisilla hinnankorotuksilla mallin tarjoaja voisi odottaa pääsevänsä voitolle.
Toki voin olla tästä ihan väärässäkin, ja sitten todnäk tulee aika hulina, kun porukan on pakko suunnittella bisnesmallinsa kiireessä uusiksi.
@muep Tuolta löytyi jotain kohtuu tuoretta tietoa. Eli mediaaniarvio GPT-5:n operaationaalisesta tuloksesta -11 %, tuohon sitten mallien koulutus, tutkimus ja tuotekehitys päälle.
Mulla ei riitä kompetenssi arvioimaan, onko tuo paljon vai vähän.
https://epoch.ai/gradient-updates/can-ai-companies-become-profitable
-
@muep Tuolta löytyi jotain kohtuu tuoretta tietoa. Eli mediaaniarvio GPT-5:n operaationaalisesta tuloksesta -11 %, tuohon sitten mallien koulutus, tutkimus ja tuotekehitys päälle.
Mulla ei riitä kompetenssi arvioimaan, onko tuo paljon vai vähän.
https://epoch.ai/gradient-updates/can-ai-companies-become-profitable
@jruoh @mve äkkiseltään silmäilemällä tuosta tuli vaikutelma, että valmiin mallin operointi rahaa vastaan on ihan positiivista tulosta tekevä asia, vaikka ei varsinkaan GPT-5:n lyhyen elinkaaren aikana ehdi kattaa tuotekehityksen kuluja.
Odottaisin että jos/kun tämä nykyinen kielimallikupla lopulta räpsähtää, niin näitä valmiiksi kehitettyjä malleja voi kuitenkin jäädä käyttöön siinäkin tapauksessa, että tuotekehitysmiljardeja ei enää sijoittajilta irtoa.
-
@kaarne Olen tätä aiemminkin sanonut, mutta kinkkutemppu on kyllä yksi mahtavimpia propagandakampanjoja tällä saralla. Siinä kätevästi viherpestään joulukinkkua ja samalla synnytetään mielikuva, että tällaisilla maitopurkin pohjalle kerättävillä paistorasvajäänteillä ajettaisiin mittaviakin kilometrimääriä. @puhuri @aqunt @muep
-
-
@muep Tällaiset laskelmat on aina mielenkiintoisia. Ja asiaa voisi lähestyä myös toisesta suunnasta.
Gartner arvio joku kk sitten, et 2030 dadacenterit vie sähköä 980 TWh ja siitä 44% on kielimallien tarpeisiin. Tämä olisi 431 200 000 MWh ja jos MWh keskihinta olis vaikka 70€ ja tekoälyllä käyttäjiä 6 Mrd niin kustannus olisi noin 5 euroa käyttäjää kohti joka tunti pelkälle energian hinnalle.
@mve @muep kyllä mua epäilyttää noi Gartnerin luvut todella paljon. Saman henkistä kuin nämä ”Netflixin katsominen kuluttaa saman kuin maasturilla ajo”, joka sitten oli pielessä luokkaa 1000-kertaisesti. Ero on että videostriimien suuruusluokka on järkeiltävissä mutta nää kielimallijutut on ihan musta laatikko.
-
@mve @muep kyllä mua epäilyttää noi Gartnerin luvut todella paljon. Saman henkistä kuin nämä ”Netflixin katsominen kuluttaa saman kuin maasturilla ajo”, joka sitten oli pielessä luokkaa 1000-kertaisesti. Ero on että videostriimien suuruusluokka on järkeiltävissä mutta nää kielimallijutut on ihan musta laatikko.
@karppinen @muep Ne 2030 ennustetut lukemat on todella isot. Jos 2025 lukema 93TWh on oikeassa kokoluokassa, niin siihen ja tulevien AI-piirien moninkertaiseksi kasvavaan sähköntarpeeseen veikkaisin lukemien perustuvan. Jos kupla puhkeaa ennen tuota, niin sit jäädään toki kauas 2030 noista lukemista.
Jos kulutus on silloin tuollainen niin 6mrd käyttäjän kuukausilaskutuksen pitää olla useita tuhansia euroja. Ei ole kestävä se.
-
@karppinen @muep Ne 2030 ennustetut lukemat on todella isot. Jos 2025 lukema 93TWh on oikeassa kokoluokassa, niin siihen ja tulevien AI-piirien moninkertaiseksi kasvavaan sähköntarpeeseen veikkaisin lukemien perustuvan. Jos kupla puhkeaa ennen tuota, niin sit jäädään toki kauas 2030 noista lukemista.
Jos kulutus on silloin tuollainen niin 6mrd käyttäjän kuukausilaskutuksen pitää olla useita tuhansia euroja. Ei ole kestävä se.
@karppinen @muep Jos taas toi viimevuoden arvio on valtavasti pielessä, niin se toki muuttaa paljon myös tän hetken todellisia kuluja.
-
@mve @muep kyllä mua epäilyttää noi Gartnerin luvut todella paljon. Saman henkistä kuin nämä ”Netflixin katsominen kuluttaa saman kuin maasturilla ajo”, joka sitten oli pielessä luokkaa 1000-kertaisesti. Ero on että videostriimien suuruusluokka on järkeiltävissä mutta nää kielimallijutut on ihan musta laatikko.
@karppinen @mve Varsinkin ennusteissa voi olla lähtöoletuksia, jotka ovat hyvin erilaisia kuin se tilanne mistä on itse kiinnostunut
Vähän kaiken ict-infran kanssa on samaa mustalaatikko-ongelmaa, mutta toki kyllä korostuu näiden kielimallien kanssa.
Avoimien mallien suorituskyvystä suhteessa energiantarpeeseen voinee kuitenkin ekstrapoloida jotain mielekästä, vaikka se onkin sitten lähinnä valistunut arvaus eikä mittaus.
-
@mve @muep kyllä mua epäilyttää noi Gartnerin luvut todella paljon. Saman henkistä kuin nämä ”Netflixin katsominen kuluttaa saman kuin maasturilla ajo”, joka sitten oli pielessä luokkaa 1000-kertaisesti. Ero on että videostriimien suuruusluokka on järkeiltävissä mutta nää kielimallijutut on ihan musta laatikko.
@karppinen @mve tätä alkuperäistä settiä miettiessä törmäsin vielä tämmöiseen https://www.technologyreview.com/2025/05/20/1116327/ai-energy-usage-climate-footprint-big-tech/ -artikkeliin, jota vielä perästäpäin selailin.
Tässä näköjään onkin hieman avoimien mallien pohjalta ihan mitattu energiamääriä, ja sen pohjalta arvuutellaan, mitä vähemmän julkisten mallien energiantarve voisi olla.
