• Najnowsze pytania
  • Bez odpowiedzi
  • Zadaj pytanie
  • Kategorie
  • Tagi
  • Zdobyte punkty
  • Ekipa ninja
  • IRC
  • FAQ
  • Regulamin
  • Książki warte uwagi

siec neuronowa 3D?

Aruba Cloud VPS - 50% taniej przez 3 miesiące!
+1 głos
166 wizyt
pytanie zadane 28 października w Python przez Distracted_bez_hasła Początkujący (330 p.)
edycja 28 października przez Distracted_bez_hasła
Cześć,

Pomyślałem sobie właśnie, czemu sieci AI nie są 3D. Czy nie można by uzyskać, przy mniejszej liczbie neuronów, lepszego rozumienia, a nawet lepszego AI? Niż falowe przewidywanie słów przez chatbota? Wiem, że to kolejna złożoność obliczeniowa, ale mnie to zastanowiło. W sensie 3D, tak: 1 wymiar to warstwa, 2 i 3 to X i Y, a to neurony.

2 odpowiedzi

+2 głosów
odpowiedź 29 października przez Benek Szeryf (92,970 p.)
wybrane 29 października przez Distracted_bez_hasła
 
Najlepsza

Trochę nie rozumiem tej koncepcji. W każdym razie przewidywanie kolejnych słów jest dość fajnie wyjaśnione w pierwszej minucie tego filmu. Esencją jest złapanie kontekstu w zdaniu, który realizuje się przez manipulowanie wektorami w przestrzeni dużo większej niż 3D.

+1 głos
odpowiedź 30 października przez marcin99b Szeryf (83,530 p.)

GPT to nie prosta sieć neuronowa tylko algorytm który po drodze odpala kilka razy obliczenia na neuronach

I służy właśnie do tego, żeby mądrzej wykorzystać moc obliczeniową, nie robisz bezmyślnego dokładania mnóstwa neuronów, tylko starasz się żeby robiły lepszą robote

komentarz 30 października przez Distracted_bez_hasła Początkujący (330 p.)
Nie powiedziałem iz gpt jest słaby...
komentarz 30 października przez marcin99b Szeryf (83,530 p.)
edycja 30 października przez marcin99b
No tak

Ale kombinujesz jak usprawnić sieć neuronową, zamiast pomyśleć szerzej - co można zrobić żeby sieć neuronowa robiła lepszą robote

GPT to właśnie efekt takiego myślenia, nie kombinowali co zrobić w samej sieci neuronowej (tym ludzie zajmowali się przez ostatnie kilkadziesiąt lat), tylko pomyśleli co można zrobić wokół sieci, żeby dawała lepsze wyniki

Zrobili algorytm który w swoich krokach ma sieci neuronowe, które są dedykowane do swoich rzeczy. Nie zrobili jednej wielkiej sieci, tylko kilka mniejszych.

Tym sposobem przy użyciu takiej samej mocy obliczeniowej, udaje sie mieć dużo bardziej wartościowe wyniki
komentarz 30 października przez Distracted_bez_hasła Początkujący (330 p.)
Okej, teraz rozumiem. Zamiast ulepszać sieć neuronową, po prostu użyli zwykłej, ale wokół niej zbudowali coś innego.

Podobne pytania

+1 głos
3 odpowiedzi 293 wizyt
pytanie zadane 29 kwietnia w Python przez wojtas29321932942 Początkujący (410 p.)
+2 głosów
2 odpowiedzi 321 wizyt
pytanie zadane 2 lutego w Python przez MichaelM Bywalec (2,850 p.)
+1 głos
1 odpowiedź 435 wizyt
pytanie zadane 27 stycznia 2022 w Python przez patryk241 Użytkownik (700 p.)

93,164 zapytań

142,176 odpowiedzi

321,936 komentarzy

62,491 pasjonatów

Advent of Code 2024

Top 15 użytkowników

  1. 688p. - dia-Chann
  2. 676p. - CC PL
  3. 675p. - Łukasz Piwowar
  4. 664p. - Marcin Putra
  5. 662p. - Łukasz Eckert
  6. 649p. - Michal Drewniak
  7. 641p. - rucin93
  8. 641p. - rafalszastok
  9. 629p. - Piotr Aleksandrowicz
  10. 621p. - Dawid128
  11. 597p. - Hubert Chęciński
  12. 572p. - ssynowiec
  13. 498p. - Michał Telesz
  14. 437p. - nidomika
  15. 427p. - Adrian Wieprzkowicz
Szczegóły i pełne wyniki

Motyw:

Akcja Pajacyk

Pajacyk od wielu lat dożywia dzieci. Pomóż klikając w zielony brzuszek na stronie. Dziękujemy! ♡

Oto polecana książka warta uwagi.
Pełną listę książek znajdziesz tutaj

Wprowadzenie do ITsec, tom 1 Wprowadzenie do ITsec, tom 2

Można już zamawiać dwa tomy książek o ITsec pt. "Wprowadzenie do bezpieczeństwa IT" - mamy dla Was kod: pasja (użyjcie go w koszyku), dzięki któremu uzyskamy aż 15% zniżki! Dziękujemy ekipie Sekuraka za fajny rabat dla naszej Społeczności!

...