ChatGPT
- Thread starter Ikarus87
- Start date
Welchen Prpzessor und wieviel RAM hast du @Der_Hutmacher ?
hast du das modell mal über die CPU laufen lassen?
Ich bin grad am überlegen ob mir die Geschwindiegkeit aktuell nicht so wichtig ist und ob es eher sinn macht das geld in hohen CPU Takt und viel RAM zu investieren und die modelle erstmal darin laufen zu lassen. mit 128 GB kann man halt die dicken modelle laufen lassen, aber halt nur langsam.
Und dann evtl sehen ob nicht die 50er Generation von NVidia vielleicht nen weiteren schritt in Richtung KI Beschleunigung macht..
oder beides, und das Geld wieder rausholen mit ner gebrauchten 3090, die ebenfalls 24GB VRam hat..
Das wird ja jetzt wieder son ding wo du dir die nächsten Jahre beliebige Hardware kaufst die nen halbes JAhr spätr schon wieder nur noch so halb geil ist..
Ich hoffe nur nvidia fängt nciht an bei den consumer karten rumzugimpen und künstlich den RAM kleein zu halten (was sie ja im Grunde jetzt schon tun) um die profi beschleuniger zu rechtfertigen..
Ne A100 mit 80GB RAM kostet halt geschmeidige 11k, ne H100 33k.. wenn dann ne consumer karte mit 48GB kommt fragen sich die Unternehmen auch was der Müll eigentlich soll..
Bin echt gespannt wies da weitergeht..
hast du das modell mal über die CPU laufen lassen?
Ich bin grad am überlegen ob mir die Geschwindiegkeit aktuell nicht so wichtig ist und ob es eher sinn macht das geld in hohen CPU Takt und viel RAM zu investieren und die modelle erstmal darin laufen zu lassen. mit 128 GB kann man halt die dicken modelle laufen lassen, aber halt nur langsam.
Und dann evtl sehen ob nicht die 50er Generation von NVidia vielleicht nen weiteren schritt in Richtung KI Beschleunigung macht..
oder beides, und das Geld wieder rausholen mit ner gebrauchten 3090, die ebenfalls 24GB VRam hat..
Das wird ja jetzt wieder son ding wo du dir die nächsten Jahre beliebige Hardware kaufst die nen halbes JAhr spätr schon wieder nur noch so halb geil ist..
Ich hoffe nur nvidia fängt nciht an bei den consumer karten rumzugimpen und künstlich den RAM kleein zu halten (was sie ja im Grunde jetzt schon tun) um die profi beschleuniger zu rechtfertigen..
Ne A100 mit 80GB RAM kostet halt geschmeidige 11k, ne H100 33k.. wenn dann ne consumer karte mit 48GB kommt fragen sich die Unternehmen auch was der Müll eigentlich soll..
Bin echt gespannt wies da weitergeht..
, 
, 
, 
, 
, 
, 
, 
, 
, 
, 
, 
, 
, 
, 
, 
-
PSN-Name: Der_Hutmacher
Ich habe den CPU-Modus nicht getestet, weil ich ihn beim ersten Mal ehrlich gesagt in text-generation-webui nicht zum Laufen gebracht habe. Aktuell habe ich einen 13900K/64GB. Ich hoffe, das reicht für die nächsten 4-5 Jahre😅. Es stimmt aber auch das der Unterschied im Bezug auf die CUDA Performance zwischen einer 3090/4090 aktuell nicht so groß ausfällt.
, , , , , , , , , , , , , , ,
-
PSN-Name: Der_Hutmacher
Deepl kann das, für ChatGPT gibt es kein direktes Interface um Dokumente einzulesen aber jemand hat ein Python Script dafür geschrieben:
https://github.com/Raychanan/ChatGPT-for-Translation
Praktischerweise gibt es auch ein Google Colab Sheet dazu.
https://github.com/Raychanan/ChatGPT-for-Translation
Praktischerweise gibt es auch ein Google Colab Sheet dazu.
, 
, 
Also größere PDFs will er nicht übersetzen hab es mit der hier probiert
https://downloads.corvusbelli.com/infinity/rules/infinity-rules-en-v1-1.pdf
https://downloads.corvusbelli.com/infinity/rules/infinity-rules-en-v1-1.pdf
, , , , , , , , , , , , 
,
-
PSN-Name: BillMorisson
-
Spielt gerade: FF VII Remake
In einer Zeit längst vergangen, 16-Bit-Glanz hat uns gefangen. Ein goldenes Zeitalter, bunt und grell, Die Videospielwelt - ein magischer Quell.
Mit Pixeln klein und doch so klar, Tauchten wir ein in Spielejahr um Jahr. Die Ära der Helden, groß und klein, In fantastischen Welten, fern und nah sein.
Sonic der Igel, schnell wie der Wind, Raste durch Level, ganz geschwind. Mario, der Klempner, im Pilzkönigreich, Prinzessin retten, ein ewiger Ehrgeiz.
Streets of Rage, die Straßen erzittern, Kampf um Gerechtigkeit, wir wollen sie gewinnen. Final Fantasy, epische Abenteuer bereit, Mit Magie und Schwert, durch Raum und Zeit.
16-Bit, ein Zauber in der Hand, Controller fest, das Abenteuer geplant. Mit Freunden im Splitscreen, Seite an Seite, Im Wettstreit der Spiele, pure Freude.
RPGs voller Tiefe und Geschichten, Charaktere, die wir ins Herz schließen. Zelda und Chrono Trigger, Legenden entfacht, In unseren Herzen noch heute ihre Macht.
Die Musik, ein wahrer Ohrenschmaus, Melodien, die uns begleiten, zuhaus. Mit Chiptunes und Klangkulissen, Entführten sie uns in fremde Welten, ganz unvergessen.
16-Bit, eine Ära voller Glanz, In Erinnerung bleibt dieser Tanz. Die Spiele von damals, zeitlos und wahr, 16-Bit, ein leuchtender Sternenaltar.
Heute mögen die Grafiken hochauflösend sein, Doch in unseren Herzen bleibt dieser Schein. Die 16-Bit-Ära, ein Teil unserer Seele, Ein Erbe, das uns immer begleiten wird, auf dieser Spielezeile.
Mit Pixeln klein und doch so klar, Tauchten wir ein in Spielejahr um Jahr. Die Ära der Helden, groß und klein, In fantastischen Welten, fern und nah sein.
Sonic der Igel, schnell wie der Wind, Raste durch Level, ganz geschwind. Mario, der Klempner, im Pilzkönigreich, Prinzessin retten, ein ewiger Ehrgeiz.
Streets of Rage, die Straßen erzittern, Kampf um Gerechtigkeit, wir wollen sie gewinnen. Final Fantasy, epische Abenteuer bereit, Mit Magie und Schwert, durch Raum und Zeit.
16-Bit, ein Zauber in der Hand, Controller fest, das Abenteuer geplant. Mit Freunden im Splitscreen, Seite an Seite, Im Wettstreit der Spiele, pure Freude.
RPGs voller Tiefe und Geschichten, Charaktere, die wir ins Herz schließen. Zelda und Chrono Trigger, Legenden entfacht, In unseren Herzen noch heute ihre Macht.
Die Musik, ein wahrer Ohrenschmaus, Melodien, die uns begleiten, zuhaus. Mit Chiptunes und Klangkulissen, Entführten sie uns in fremde Welten, ganz unvergessen.
16-Bit, eine Ära voller Glanz, In Erinnerung bleibt dieser Tanz. Die Spiele von damals, zeitlos und wahr, 16-Bit, ein leuchtender Sternenaltar.
Heute mögen die Grafiken hochauflösend sein, Doch in unseren Herzen bleibt dieser Schein. Die 16-Bit-Ära, ein Teil unserer Seele, Ein Erbe, das uns immer begleiten wird, auf dieser Spielezeile.
, , , , , , , , , , , , ,
-
PSN-Name: BillMorisson
-
Spielt gerade: FF VII Remake
KI-Boom treibt Firmenwert von Chiphersteller Nvidia über eine Billion Dollar
https://www.spiegel.de/wirtschaft/u...dollar-a-32bf3c3c-2457-4261-8689-fdeb7fa18bad
https://www.spiegel.de/wirtschaft/u...dollar-a-32bf3c3c-2457-4261-8689-fdeb7fa18bad
, 