Jak zbudować fabrykę agentów: pętla etap po etapie
Fabryka agentów to stary cykl wytwarzania zamknięty w pętlę. Każdy etap: po co jest, co się psuje bez niego i od którego zacząć budowę.
- fabryki agentów
- pętle sterowania
- cykl wytwarzania
Blog
Notatki z programu badawczego nad autonomicznym przedsiębiorstwem: odpowiedzialność, rejestr decyzji, granice, wyłącznik i powody, dla których maszyna nic nie posiada.
Czyja jest wiedza, której uczy się fabryka agentów
Najcenniejszy w fabryce agentów nie jest model, tylko to, czego uczy się o firmie. Zanim wybierzecie dostawcę, sprawdźcie, co zostanie u was, gdy odejdziecie.
- fabryki agentów
- suwerenność
- uzależnienie od dostawcy
Fabryki agentów nie zostaną w dziale IT
Zespoły programistów prowadzą już pracę w pętli agentów, z ludźmi w punktach decyzji. Finanse, zakupy i marketing będą następne, pod jednym warunkiem.
- fabryki agentów
- pętle sterowania
- odpowiedzialność
Nadzorca musi stać poza systemem, którego pilnuje
Nowy projekt bezpieczeństwa agentów NVIDII umieszcza nadzór na osobnym procesorze, poza hostem. To przemysłowa wersja wyłącznika, którego system nie dosięgnie.
- nadzór
- agenci
- izolacja
Audyt systemu, który zmienia się szybciej niż audytor
Audyt zakłada stabilny obiekt. System, który sam się ulepsza, zmienił się, zanim raport został napisany, więc audyt musi przejść od zachowania do niezmienników.
- audyt
- atestacja
- niezmienniki
Budżet autonomicznej firmy: pieniądze, których pętla nie wyda
Pętla, która kupuje, wynajmuje moc obliczeniową i płaci dostawcom, potrzebuje limitu wydatków poza swoim zasięgiem. Budżet to ograniczenie, które właściciel umie przeczytać.
- budżet
- limity wydatków
- zachowanie ekonomiczne
Autonomię wyznacza to, czego pętla nie może dotknąć
Większa autonomia systemu to przede wszystkim decyzja o tym, czego mu nie wolno i kto tego pilnuje. Granica, którą pętla może zmienić, jest tylko sugestią.
- uprawnienia
- limity
- zasięg szkód
Czego piaskownica rynkowa nie powie ci o rynku
Badanie zachowań ekonomicznych bez prawdziwych kontrahentów to dziś jedyna rozsądna droga. Warto jednak dokładnie wiedzieć, czego w ten sposób nie sprawdzisz.
- symulacja
- piaskownica
- wycena
Log, którego nie da się odtworzyć, nie jest rejestrem decyzji
Większość systemów prowadzi logi dla dyżurnego inżyniera. System autonomiczny potrzebuje zapisu, który obca osoba odtworzy po roku, a to zupełnie inny projekt.
- audyt
- rejestr decyzji
- śledzalność
System, który sam się ulepsza, potrzebuje miary poza zasięgiem
Trzecia pętla autonomicznej działalności zmienia własną konfigurację, żeby działać lepiej. O tym, czy to działa, decyduje, kto definiuje „lepiej” i gdzie ta definicja leży.
- cele
- wskaźniki
- prawo Goodharta
Oprogramowanie da się wycofać. Wózka widłowego nie
Gdy pętla autonomiczna sięga od zapisów do maszyn, błędne dane stają się poruszającą się masą, a analizę bezpieczeństwa trzeba spisać, zanim pętlę się podłączy.
- robotyka
- systemy fizyczne
- analiza bezpieczeństwa
Ostatnim człowiekiem w pętli jest podpis
Większość programów automatyzacji zatrzymuje się w tym samym miejscu i nie jest to granica techniczna. Ktoś musi odpowiadać, a odpowiedzialność potrzebuje człowieka.
- automatyzacja
- odpowiedzialność
- akceptacja
Samonaprawa to nie funkcja, tylko inna architektura
Doklejenie odzyskiwania do systemu zaprojektowanego z myślą o naprawie przez ludzi daje automatyzację, która psuje się ciekawiej, a nie rzadziej.
- samonaprawa
- niezawodność
- pętle sterowania
Czy maszyna może cokolwiek posiadać?
Podmiotowość prawna systemów autonomicznych omawiana jest tak, jakby nadchodziła. Nie nadchodzi, a powody są ciekawsze niż same propozycje.
- podmiotowość prawna
- odpowiedzialność
- regulacje
System autonomiczny potrzebuje wyłącznika, którego nie dosięgnie
Ciekawą własnością zatrzymania nie jest to, że istnieje. To, że zatrzymywany nie ma jak go zaobserwować, opóźnić ani od niego zależeć.
- wyłącznik awaryjny
- bezpieczeństwo
- nadzór
Dlaczego mówimy organizm i czego to nie znaczy
Język biologii dobrze opisuje zamknięte pętle i samonaprawę, a zarazem jest najkrótszą drogą do twierdzeń, których nikt nie umie obronić.
- terminologia
- cybernetyka
- twierdzenia