GitHub Copilot LLM árképzés új modelleknél kicsit elszállt
Posted by CptKlaesAshford@reddit | programmingHungary | View on Reddit | 59 comments
Sziasztok,
Nálunk a cégben kötelezően és kizárólagosan a GitHub copilotot lehet AI-ként használni fejlesztéshez, nem olyan régen jött ki az Opus 4.7 és a GPT-5.5, mindkettő 7.5x szorzóval és ráadásul ez csak promotional, ennél elvileg április 30 után jóval drágább lesz. Nálunk a cégnél be se akarják kapcsolni ezeket a modelleket, ne égjen el már első héten a népek havi token javadalmazása. Kicsit elkezdtem utána túrni, hogy ez WTF és akkor szembejött ez egy reddit post alatt:
https://github.blog/news-insights/company-news/changes-to-github-copilot-individual-plans/
Eszerint a bejegyzés szerint már az új signupokat is leállították. Na most vagy enterprise only modellre állnak át vagy lehet le is állítják a GitHub Copilotot a közeljövőben, azért van ekkora eltérés az árképzésben pl a GPT-5.4 és 5.5 között, pedig annyival a tesztek alapján nem lett jobb az új modell, hogy ezt indokolná.
Anthropicnál az Opus 4.7 árazása nem változott a 4.6-hoz képest, viszont új tokenizert vezettek be a 4.7 esetében, ami tesztek alapján akár 35-50%-os költségnövekedést is jelent a 4.6-hoz képest! Lehetséges, hogy a veszteségesen üzemeltetett AI-ok most fognak inkább a valóságos költségek felé árazódni, mert eddig az infra alap működési költségét se fedezték? Lehet lassan a végéhez közelítünk a beetetés időszakának, mert ezután még ennél is drágábban haszálható modellek jönnek? Így billen "helyre" az IT társadalom, hogy még sem lesz annyira olcsó kiváltani az emberi munkaerőt egy powerful AI-al? Mit gondoltok?
Such-Difference2708@reddit
Junior fejlesztők, szevasztok!
Inf5125@reddit
Pacsi! Kevesebbet keresek (0 Ft) diplomásan mint egy diploma nélküli parlamenti képviselő :D
Such-Difference2708@reddit
Mert ő értéket teremt, te meg számíttózol!
adizs@reddit
Már évekkel ezelőtt, az első széleskörűen használható modelleknél ezt pofázta mindenki, hogy veszteséges a buli jelenleg, ezek jelentősen drágulni fognak. Ha hát ezekszerint most kezd el kipadni az égethető pénz vagy most jutottak arra a pontra szerintük, hogy kiforrott annyira a termék, hogy lehet érte rendes pénzt kérni.
Chance_Papaya1517@reddit
igen, elkezdett kiapadni a pénz, ez még nem volt egy hónapja, azóta elverték az egészet, el is ment ez a 122 milliárd dollár
https://openai.com/index/accelerating-the-next-phase-ai/
ytg895@reddit
Jó, de az Anthropic a kérdéses
Chance_Papaya1517@reddit
igen, ők is épp kifogyóban vannak az IPO és a profitabilitás küszöbén
https://www.anthropic.com/news/anthropic-raises-30-billion-series-g-funding-380-billion-post-money-valuation
https://www.wsj.com/finance/investing/google-expands-anthropic-investment-with-40-billion-commitment-99b4de74
mrxaxen@reddit
Érdekes hogy mindegyik csak revenueról beszél, profitról semmi nincs
Chance_Papaya1517@reddit
persze, senki nem beszél róla, ha tudatosan nem figyelsz rá, pedig mindenki megosztja aterveit, hogy mikorra lesznek pluszosak
de te biztos sokkal jobban tudod, mint a befektetők
Kultur_Cigany@reddit
Annó én is megosztottam az asszonnyal hogy mikorra tervezek plusszos lenni, de így is megcsalt amikor már a harmadik vállalásom sem sikerült :-[
CarPlane5196@reddit
*Mostanra lett beetetve elég ember, hogy ha a fele kiszáll az áremelés miatt, akkor is lesz lóvé szarásig.
Integeritis@reddit
Sot, ha kihull a fele, kevesebb hardware eroforrast kell hasznalniuk. Novelik a profitot elofizetonkent, es kozben csokken az ossz koltseguk
No_Kaleidoscope_1366@reddit
Szerintem ez borítékolható volt, de kb ennyit tud elmondani az átlag ember erről. Gondolom a cégvezetők továbbra is örömmel fizetnek mégtöbbet érte.
zertu69@reddit
Egy ideig de a lényeges brute force teljesítmény növekedés tetőzött már egy ideje, most csak költségcsökkentés megy mert egyenlőre nem latszik hogy lenne profitabilis ezeket a modelleket futtatni és közhiedelemmel ellentétben a befektetők nagy hozamot várnak ilyen kockázatos befektetéstől. Szóval a minden koltséget majd a VC-k kifizetnek annak kozeledünk a végéhez és a további lényeges áremelkedés kb garantált.
ody42@reddit
Nem az van, hogy az OpenAI-t eddig részben a Microsoft finanszírozta (adta alá a cloudot), aztán meg olyan dealeket kötöttek az Oracle és Nvidia cégekkel,ami alapján gyakorlatilag ők finanszírozzák a mostani cloud beruházásokat, mivel az OpenAI-nak nincs elég pénze? Az Anthropic is valami hasonlót művel az Alphabettel. Biztos van benne VC funding is,de ez inkább a cloud providerek fejfájása lesz, ha nem lesz belőle profit a végén. Vagy rosszul látom?
zertu69@reddit
Nem, tényleg jelentős pénzeket raknak bele a nagy FANG cégek is de ez a lényegen nem változtat, ők is a részvényeseknek felelnek hogy jól használják fel a keletkező profitjukat. Egy pár évig sikerült mantrázni hogy ez mekkora fasza befektetés és mennyi profit lesz belőle ezért lenyelték a befektetők hogy pl stock buyback, osztalék fizetés deprioritizálva lett masszívan és egyéb befektetéseket is inkább elhalasztottak.
Mostanára viszont ők sem ignorálhatják hogy nem materializálódik a nagy $$$ ezekből a datacenter buildoutokból. Szóval ezt a következő negyedévekben nem biztos hogy a befektetők elfogadják hogy akkor jövőre még 50% al többet öljünk AI-s befektetésekbe mert az edigginek a megtérülési horizontja és a végtelenbe nyúlik.
ody42@reddit
az Alphabet esetében az enterprise userek által elhasznált tokenek 60%-al nőttek egy negyedév alatt, kb. 700-2800m USD havonta, szóval van belőle revenue, és szerintem a Google van annyira fegyelmezett, hogy nem költ el 150 milliárd dollárt datacenterre csak a verseny kedvéért. Megtérülést nehéz becsülni, 1 éve még egy fillért nem adtam volna 1 millió output tokenért, most meg egyre agresszívabb árazás mellett is compute hiány van.
zertu69@reddit
Az árazás begyűrűzése és hogy még úgyis megéri e az erre épülő szolgáltatásokat fenntartani, a cegek tudnak e szintén árat emelni csak nagyon sok hónapos eltolással jelentkezik. Hogy rendes nem subsidized piaci áron melyik termék/szolgáltatás életképes szerintem reálisan évek alatt fog csak kiderülni.
No_Kaleidoscope_1366@reddit
Igen, valami ilyesmi a helyzet.
Highborn_Hellest@reddit
>Lehetséges, hogy a veszteségesen üzemeltetett AI-ok most fognak inkább a valóságos költségek felé árazódni,
Elég valószínűtlennek tartom, hogy a közelében vagyunk.
CptKlaesAshford@reddit (OP)
Ezt én sem írtam, hogy a közelében lennénk, csak a trend kezd kirajzolódni, hogy most hirtelen bazidrága lett és az is promotional ár. Lehet májustól 10 vagy akár 20x szorzó lesz rájuk. Az már szemmel látható összeg egy fejlesztő csapatnál, ha még az embert is fizetened kell, meg mellé az AI-t.
Inner-Lawfulness9437@reddit
Plantől függően fejenként 19$ vagy 39$-t fizetnek. Az extra prémium requestek meg 4 centbe kerülnek - 12 Ft. Ezek a költségek jelenleg kerekítési hibák. Ennek a sokszorosát behozza egy megfelelően használt GHCP license. Ahol nem ott fölösleges AI-t használni erre.
GourangaGuerrilla@reddit
iyamegg@reddit
Adventurous-Act-4294@reddit
Still_Antelope_9209@reddit
bitconvoy@reddit
Nézzétek meg a Codexet. Eleve egy nagyságrenddel hatékonyabb, mint a Copilot, és sokkal “gazdaságosabb” is
EventPurple612@reddit
Megvárhatták volna, míg rászoknak az emberek annyira, hogy nélkülózhetetlen legyen. Ezt még évekig tolni kellett volna hozzá.
vandersky_@reddit
Vagy amíg befejezek pár projektet.
CT4nk3r@reddit
csak mar tenyleg kezd elfogyni a befektetok penze, viszont ez meg mindig kozel sincs ahoz ami a tenyleges cost-ja ezeknek a modelleknek a futtatasa, a legtobb opus4.6 szintu model az siman lehetne egy $300-400/month sub mogott realis limitekkel es meg ugyis valszeg veszteseges lenne a cegeknek
Peddy699@reddit
Mar regota varom hogy eljon e a pillanat amikor kiderul hogy a sok token tobbe kerul mint felvenni par masik embert.
akosh_@reddit
Azért az még messze van. Viszont pontosan addig fogják emelni az árakat, amíg közel utolérik a hús-vér dev árát :) ha kb 20%-al lesznek olcsobbak, még mindig megéri őket választani. Profitmaxinalizálás.
Popular_Title_2620@reddit
Vagy csak elkezdtek optimalizálni az emberek. Mivel a Copilot nem token alapú hanem kérés alapú. Azaz míg egy nagyobb meló a Claude-ban arányosan skálázódik fel addig a copilot egynek veszi így ez nekik egy idő után bukó.
Mellesleg én Claude-banis azt érzem mintha lassan drágulna pedig nem használom az új 4,7-es Opust.
No_Kaleidoscope_1366@reddit
Kísérletben van húsz dolláros verzióból Claude code kizárása. Szóval ott is lesznek változások
InformationNew66@reddit
Amerikában egy fejlesztő bére havi $5000-10000, ahhoz képest havi párszáz dollár semmiség.
cursortoxyz@reddit
Power userek siman elegetnek tobb tizezer dollart egy rendesen megcsinalt agentic harness mellett. Ha a CI/CD-t is AI toolokkal pakolod tele, akkor az isten minden penze sem lesz eleg.
InformationNew66@reddit
Értem, ész nélkül költeni persze, hogy pazarló, megérdemli aki úgy használja.
cursortoxyz@reddit
A magas token felhasznalas nem feltetlenul jelent onmagaban semmit, lehet ezt jol es rosszul is csinalni. Ha a letrejott kod jobb vagy hamarabb keszul el, mintha kezzel csinalta volna az engineer, akkor az nem pazarlas. Ha csak eleget az ember egy rakas tokent hulyesegekre uzleti ertek nelkul vagy minden ciklusban egy agentet rugoztat olyanra amire jok a meglevo determinisztikus toolok, akkor az.
Clever-Bot-999@reddit
Gyakorlatilag lehet nem is a költségekhez szabják, hanem ahhoz amennyit elkérhetnek.
Tehát nem az történt hogy eddig vaskosan veszteségesek voltak, és most vissza akarják kapni a pénzt, hanem az, hogy a cégek láják hogya z AI egy fejlesztő hatékonyságát mondjuk 50%al növeli, tehát simán elkérhetik a fejlesztő bekerülési költségének a 20%-át.
Ha amcsiban egy fejlesztő 10 000 dollárt keres, akkor az a cégnek kerüljön 15 ezerben, tehát 3 ezer dollárt simán kifizet AI-ra.
No_Kaleidoscope_1366@reddit
Meredeken csökken is a számuk
CT4nk3r@reddit
elkezdik realisan bearazni a modelleket, nem szalltak el az arak viszont kondicionaltak a fejlesztoket, hogy ra legyenek kenyszeritve az AI-ra, most pedig lassan elkezdik bearazni oket a valodi ertekre, hogy hozzanak is vissza penzt.
eddit te kvazi ingyen/olcson hasznaltad, hogy be legyel etetve es ra legyel kenyszerulve, hogy hasznald, mostmar el is fogjak kerni erte a penzt
zieglerziga@reddit
"Mit gondoltok?"
Azt hogy itt a lufi vége. Ennyi a pukkanás, piaci alapon gecidrága lesz, de még ígyis csomó helyen meg fogja érni alkalmazni. Viszont újra felfognak értékelődni a low cost helyek csak nem akkora súllyal mint régen.
romeozor@reddit
YT-on szoktam nézni a The Tech Report csatornán időnknt meghívott Ed Zitron részeket, ahol már régóta téma hogy ennyiért nem lehet szolgáltatni. Legutóbb a Copilot-ról is szó esett és az ott elmondottak szerint még pont Microsoft lehetne az, aki alacsony áron tartja előfizetéseket, és mégis elsőként(?) ők emelnek.
Nem tudom mennyire doomer a leadott műsor, bármilyen trendet könnyű fikázni, de nincs infinite időm mindent is követni, és pl a Sora leállítását is predesztinálták hetekkel előre. Ez nekem növelte a hitelességét.
----fatal----@reddit
Aki alacsonyabban tudja tartani majd hosszútávon az árait az inkább szerintem a Google lesz a saját hardverrel.
De ők sem a mostani árszinten.
_3psilon_@reddit
Hát Ed Zitron eléggé a szkeptikus vonalat képviseli, viszont mindezt kutatómunkával teszi meg. A Better Offline podcastje elég jó!
-Melkon-@reddit
Nem nagyon teheti meg a microsoft mert a befektetok elvarjak hogy maradjon papiron a 35% net margin.
A tobbi szolgaltatas kannibalizalasaval meg nem lehet ezt a vegtelensegig finanszirozni.
zlaval@reddit
Persze hogy veszteseseges. Volt egy kalkulacio, hogy egy 20 dollaros claude csomag kihasznalva annyi tokent fogyasztott, ami apitn 3000usd korul volt. Es meg errol se tudjuk hogy mekkora profit volt rajta. Enterprise amugy is api arakat kapott, de lathatoan meg ez is keves volt. Illetve tobb szolgaltato nyilatkozta, hogy szeretik az emberek az ait, csak fizetni nem akarnak erte.
Intelligent-Cod-1280@reddit
Alljatok at claudere ...
PazsitZ@reddit
Mindegy, nagyon hamar lekövetik egymást.
CptKlaesAshford@reddit (OP)
Nagyon nem jó egyfajta modellre ráállni, az a jó AI, ami mögött cserélhetők a modellek.
GourangaGuerrilla@reddit
Szerintem élőbb-utóbb mindegy lesz, melyik LLM-re fizetsz elő. Muszáj lesz reális árképzést alkalmazni. Főleg, ha jön valami új hype és a befektetők is inkább oda tolják a pénzt. Lehet, hogy nem lesz mindnek egyforma az ára de akkor kb. az olcsóbb=rosszabb elv fog érvényesülni.
beegee79@reddit
Azt mondod, hogy most olcsón lehet valamilyen kódot írni, amit később bazi drágán ki lehet majd javítani?
GourangaGuerrilla@reddit
Ez egy nagyon jó meglátás és sajnos sok cégvezető nem gondolt ebbe bele.
Egy évek óta futó projecten egy új ember heteken-hónapokon át csak tanul. Még úgy is, hogy ott van a sarokban "A Zoli" aki az első commit óta a projecten van, fejből tudja mind a 2 millió kódsort és tud a rampupban segíteni.
De ha a kód nagy része AI generált, ez szinte semmit nem fog jelenteni. Ha eljön az a pillanat, amikor rájönnek, hogy egy előfizetés árából 4 juniort tudnak fizetni és lwmondják az AI-t, majdem.olyan lesz, mintha a semmiből szakadna rájuk egy legacy indiai project.
CptKlaesAshford@reddit (OP)
Na igen, ez simán benne van, ha az emberi review redukálódik. Nálunk szerencsére kevésbé félek ettől, nem használjuk ész nélkül, hiába van agentic AI, az ember engedi tovább mindig. Eddig azt látjuk, hogy kb 20-25%-al gyorsabb a szállítás és a tesztelők közel 40%-al kevesebb bugot találnak az elmúlt fél évben, mióta beindult az AI-ozás a gyakorlatban a cégnél. Elküldeni AI miatt még senkit nem küldtek el, egyelőre csak a pozitív hozadékát élvezzük.
GourangaGuerrilla@reddit
Ez alapvetően nagyon jó taktikának tűnik.
Az csak egy megérzés a részemről, hogy ahhoz, hogy valaki évek múltán is átlássa a projectet, valamennyire hozzá tartozik, hogy a komplex részeken napokat agyalt vagy egy ravaszabb bug keresésével heteket szívott.
Egész más mentális és érzelmi lenyomata lesz ennek, mint egy code reviewnak, ahol "csak" azt kell eldönteni, hogy jó-e a PR vagy nem.
De csak magamból indulok ki. PR-ok közül nem sokra emlékszem, de trükkös részekre évtizedes távlatokból is.
Pleasant_Resolve5678@reddit
Itthon (de tapasztalat alapján külföldön is) a fejlesztők több, mint 50%-a óriási kontár és mellé még igénytelen is. AI előtt is drágán keletkezett nagyon sok szar kód. 12 év alatt m ahol dolgoztam, 1-2 csapatra tudtam csak azt mondani, hogy igényesek meg pro-k. Előbb megbízok egy AI kódban, ami jól lefektetett szabályok alapján kódol, mint egy random kkv nagyarcú, de kontár, pocakos fejlesztőiben.
beegee79@reddit
Na jah, akkor az választható volt, de ez ma így néz ki: akkor vagy menő, ha minél több időt elbaszol egy junior/kókler terelgetésére.
neoteraflare@reddit
Előbb utóbb kénytelenek mind úgy árazni, hogy ne legyenek veszteségesek. Azok is akik még olcsóbban adják ide jutnak. Eddig az ügyfélkör építés ment.
developer545445@reddit
A matek egyszerű. Opus 4.7-től token alapon kértem valamit $22-ba került. Copilottal ugyan ez $0,3