Programista Iain Kay napisał skrypt, który raz dziennie wysyła żartobliwy e-mail do szefa OpenAI Sama Altmana, o ile na komputerze użytkownika dostępne jest ponad 10 proc. pamięci RAM. Całość to żart z głośnej wypowiedzi Altmana o pamięci w domowych pecetach, ale przy okazji dobrze pokazuje, jak Linux faktycznie liczy zajętą i wolną pamięć.
Skąd ten żart
Punktem wyjścia był odcinek podcastu Cheeky Pint z 29 października, nagrany z Johnem Collisonem, prezesem Stripe. Altman mówił w nim o lokalnym uruchamianiu modeli AI. Według niego wiele osób zakłada, że skoro istnieją modele open source, które da się odpalić na własnym komputerze, to nie trzeba będzie tak rozbudowanych centrów danych. Jego zdaniem z perspektywy globalnego podziału zasobów jest jednak niekorzystne, że każdy trzyma u siebie część ograniczonej światowej puli pamięci DRAM, która jest wykorzystywana przez około 5 proc. czasu.
Wypowiedź szybko stała się viralem. Altman tłumaczył później, że wyrwano ją z kontekstu, a na krótko zmienił nazwę wyświetlaną na X na „RAM Altman”. Kay uznał ten pomysł za świetny i stąd wzięła się nazwa jego projektu, który sam określa jako „parody project”.
Jak działa Ram-Altman
To skrypt napisany w bashu. Można go ustawić tak, by co pięć minut sprawdzał stan pamięci. Jeśli dostępne jest więcej niż 10 proc. RAM-u, wysyła żartobliwą wiadomość wybraną z kilku szablonów. Skrypt ogranicza się do jednego e-maila na dobę.
- dane pobiera z pliku /proc/meminfo,
- zajętą pamięć liczy jako różnicę: MemTotal minus MemAvailable,
- do tej wartości wlicza się pamięć podręczną plików i odzyskiwalne struktury jądra, ale nie wlicza tmpfs ani pamięci współdzielonej.
Dlaczego „wolna” pamięć w Linuksie bywa myląca
Gdyby skrypt patrzył tylko na pozycję „free”, obraz byłby niepełny. Linux zwykle pokazuje zaskakująco mało wolnej pamięci, bo wypełnia ją danymi z plików, aby szybciej do nich wracać. Takie dane jądro może zwolnić w każdej chwili, gdy pamięć będzie potrzebna programom. Dlatego wskaźnik MemAvailable jest oszacowaniem tego, ile pamięci system mógłby oddać bez sięgania po swap.
Co z tego wynika dla czytelnika w Polsce
Sam skrypt to raczej ciekawostka i żart. Nic w materiale źródłowym nie wskazuje, by miał jakiekolwiek znaczenie praktyczne albo wpływał na ceny sprzętu. Jego użyteczna strona jest edukacyjna. Jeśli używasz Linuksa i martwisz się, że system „zjada” całą pamięć, zajrzyj do kolumny „available” w poleceniu free -h, zamiast patrzeć wyłącznie na „free”. Wysoka zajętość przez cache zwykle nie jest problemem.
Szerszy wątek, czyli spór o to, czy sensowne jest uruchamianie modeli AI lokalnie na sprzęcie użytkowników, dotyczy także polskich i europejskich entuzjastów domowych modeli. Warto jednak pamiętać, że wypowiedź Altmana dotyczyła globalnego podziału zasobów i została przez niego samego doprecyzowana jako wyrwana z kontekstu. Z samego artykułu nie wynika, by miała skutki dla dostępności pamięci w Polsce albo w UE.
Źródło: Ars Technica – „A Sam Altman parody offers an amusing lesson in memory management”