jak AI zmienia open source (ciekawy blog)

[@SeeM]

Hej.

Szperając po zakamarkach subskrybowanych kanałów RSS trafiłem na taką perełkę: https://enblog.eischmann.cz/2026/07/23/how-ai-is-changing-open-source/ . Autor wskazuje kilka czynników erodujących nieco społeczność otwartego oprogramowania:

• niedostateczna ilość doświadczonych programistów - wolontariuszy, mających kwalifikacje do audytu kodu; kodu generowanego modelami jest zbyt dużo, żeby móc go wdrożyć,
• niewielka motywacja owych audytorów do współpracy z nowymi ludźmi; narasta zjawisko przesłania napisanej przez model pojedynczej łatki na kod aplikacji, bez żadnej próby osobistego zaangażowania z dotychczasowymi opiekunami projektu; nie jest to jak dla mnie zjawisko nowe, ale jego go zauważalnie więcej,
• jako przykład autor podaje łatkę na gvfs, w celu dodania kompatybilności z Dyskiem Google; projekt otrzymał poprawkę obejmującą ponad 4000 linijek kodu; część z nich była mało istotna, jak zmiana znaków ' na ", ale ktoś to jednak musiał przeczytać, zaakceptować i wdrożyć; jest w tym wypadku oczywiste, że cały ten kod wyliczał model na podstawie nieznanych promptów,
• w związku z dużą ilością łatek podsyłanych agentowo, autorzy kodu mają do dyspozycji dosyć niekonwencjonalne wyjście - wystawić gotowy produkt jako otwarte oprogramowanie, ale proces jego wytwarzania ograniczyć do kilku zaufanych osób,
• modele pozwalają obejść licencje "copyleft", takie jak GPL; zostały wytworzone na objętych takimi licencjami kodzie i mogą masowo wyliczyć kod na ich podstawie, który już otwarty być nie musi; ponieważ do niego nie linkuje.

 

[@sunrise]

Tak naprawdę to nadal nie wiemy, czy kod wygenerowany przez AI podlega pod prawo autorskie i podlega ochronie. Większość zakłada, że tak, ale czy tak jest pokażą dopiero pierwsze sprawy sądowe.

A co jak wyjdzie, że ochrona nie przypada autorowi prompta tylko firmie od AI, bo to ich maszyna wygenerowała kod?

A co jak wygenerowany kod będzie taki sam jak w innym projekcie, ale np. na innej licencji?

Ja osobiście wolałbym, aby w projektach OS obecnie nie akceptować kodu wygenerowanego przez AI, z pominięciem np. typowych struktur danych, które wyglądają zawsze tak samo np. json

A jak już wszyscy się przerzucimy na AI i następne AI będzie się szkolić na kodzie wygenerowanym, przez siebie samego, to będzie tak jak z chowem wsobnym.

[@SeeM]

Godzinę temu, sunrise napisał:

A jak już wszyscy się przerzucimy na AI i następne AI będzie się szkolić na kodzie wygenerowanym, przez siebie samego, to będzie tak jak z chowem wsobnym.

Uczenie modeli na danych syntetycznych to od początku był problem. Kiedyś ćwiczyłem uczenie maszynowe i robiłem model kategoryzujący do rozpoznawania rodzai statków. Okazało się, że można było go douczyć na zdjęciach odwróconych na lewą stronę i to działa. Dalsze ich obracanie, kolorowanie, przyciemnianie (i tak dalej) mogłoby w końcu spowodować przeuczenie modelu i znaczące obniżenie skuteczności.

Mam do tego inny, ciekawy artykuł: https://www.404media.co/ai-companies-are-buying-tons-of-old-books-because-theyre-free-of-ai-slop/ . Za cały trzeba zapłacić. Historia sprowadza się do osobliwego traktowania książek w amerykańskim orzecznictwie. Duże firmy z branży SI kupują przez brokerów ogromne ilości skanów książek wydanych przed dużymi modelami językowymi, żeby mieć dobre dane do trenowania. Brokerzy oferują skanowanie i niszczenie drukowanych egzemplarzy. A dlaczego niszczenie? Ponieważ wówczas nie jest to kopiowanie książki.

Wydaje mi się również, że właśnie uczenie modeli gry w Go na syntetycznych danych, kiedy model rozgrywa i analizuje partie już samodzielnie, spowodowało pewien zabawny regres, opisany i zaprezentowany na żywo przez jednego z pasjonatów tej gry - https://www.youtube.com/watch?v=H4DvCj4ySKM . Granie tym sposobem z człowiekiem zakończyłoby się sromotną porażką, ale model za każdym razem dawał się ograć. 

Jacek Dukaj napisał kiedyś nowelkę "Córka łupieżcy", której myślą przewodnią jest: "wszystko już było - królową nauk jest archeologia". Książka o badaczach antycznej i bardzo zaawansowanej cywilizacji, na której wiedzy wyrosło i upadło kilkaset kolejnych. Okazało się, że nie było sensu prowadzenia żadnej pracy naukowej, skoro starożytna wiedza przerasta nas o kilka tysięcy lat. I to właśnie była pułapka bez wyjścia, na której potknęło się tak wiele kolejnych pokoleń oraz gatunków badaczy.