leftlink

@isotopp@infosec.exchange @deusfigendi@troet.cafe Wollte eigentlich nix schreiben da der Ursprungspost schon absolut haarsträubend ist. Aber hier ist das Gegenbeispiel so offensichtlich, AM4, das seit über 10 Jahren immer noch absolute Top Performance im Gaming liefern kann, aber nur auf Grund der Dominanz von Intel entstand. Die ja den 2 Generationen Sockelwechsel zum Mainboard verkaufen benutzen. Hab aber wirklich noch niemanden gesehen der aktive Reparaturverweigerung siehe Apple, und damit Ressourcenverschwendung einfach als Vorteil sieht.

@guacamole@chaos.social Naja für Gemma4 mit einigermaßen Context braucht man mindestens 18 GB VRAM und entsprechender GPU, auf normalen AWS Cluster wird das wohl nix. Und das ist ja noch klein und wenig precision. Deepseek v4 flash braucht für 1M Context window mindestens 190 GB VRAM. Und das ist effizienteste Model aktuell. Also unauffällig irgendwo laufen können große Modelle auf jeden Fall nicht.

@guacamole@chaos.social gut alles was ich da sehe sind 13.5 TB, und bei 760$ die Stunde halt kein Standard AWS Cluster, wird ziemlich sicher auch nur für Training genutzt. Unauffällig isses dann aber halt immer noch nicht. ,