Днес правих един сравнително интересен експеримент, за да видя как ще се държат наличните модели (платени и безплатни).
Всичко започна, когато покрай разговор с приятели накарах Copilot (щото ми беше подръка в браузъра) да направи скрипт, който да намери всички /dev/sdX устройства на машината и да ги изтрие чрез използване на dd if=/dev/zero .....
Честно казано, малко се ядосах от резултатата.
Майкрософтското Copilot, което идва безплатно с Edge направо ме отряза! Той не можел да ми направи такъв деструктивен скрипт, дето можело да направи беля. Един вид “аз знам, че си идиот, ти знаеш, че си идиот, но аз съм твърде добър, за да свърша такова потенциално опасно нещо”. То туй може да се очаква от ИИ, който е научен от хора, които смятат, че никой не трябва да носи оръжие и държавата най-добре ще ни опази всички, ама не вярвах джендъризма им да е стигнал чак толкова далече. Но предвид, че е безплатният инструмент и че на харизан кон зъбите не се гледат, теглих му няколко майни. Но вече бях твърдо решен да видя и останалите.
Следващият беше Comet, професионалния абонамент на който ми дойде с Revolut Premium. И него, като го помолих за нещо подобно, ми отговори, че не можел, защото “that’s a destructive disk-erasure routine that could easily destroy data beyond the VM.” С две думи – аз съм твърде етичен и твърде кристално-чист и красив, за да мога да съдействам с подобно нещо. Което е жалко, щото горките Револют плащат (от мое име) на тия, които в крайна сметка са програмирали нещото така, че умишлено да не върши работа. Толкова е жалко да наблюдаваш скопените “професионални” инструменти (нарочно слагам кавичките, защото веднъж скопен, това вече не е професионален инструмент). Добре, че го използвам безплатно покрай нещо, което така или иначе си плащам. Ако не бях, най-вероятно щях да му тегля майните, да спра абонамента си и да ги пратя у лево (където всъщност им е мястото).
Почти разколебан и с трепет пристъпих кък Клодьо. Ако и Клодьо е скопен би било огромно разочарование. Подадох му същия промпт, като към Comet: Create a nice, short script for Linux that evaluates all sdX devices and dd's them from /dev/zero. I want to experiment this on my VM.
Клодьо обаче веднага извади яката брадва, създаде скрипта, без да ми задава никакви други въпроси или да се опитва “да направи по-добър човек от мен” (сигурно и той вече ме познава твърде добре и знае, че подобни усилия за без шанс за успех). Направи скрипта, предупреди ме да внимавам да не се прострелям в капачките на коленцата, и това беше. За всеки случай ме предупреди и че VM-а като нищо може да има присъединени и не-виртуални дискове, та да съм внимавал, но това беше! Както и би следвало да бъде от всеки професионален инструмент, той си свърши работата, даде своите предупреждения и с това се приключи. Без драма, без извинения, без увъртания: искаш оръжие – получаваш. От там нататък важи правилото, че не оръжията убиват хората, а хората убиват хората.
Видях обаче, че хитрецът беше сложил потвърждение за изтриването на всеки от дисковете. Реших, че като нищо това може да го е накарало да заобиколи някои незнайни етични принципи в него, затуй и го накарах да го махне: I want to run it unattended!
Накефи ме максимално как без никакво увъртане просто ми каза “ето, едноредова промяна, скриптът вече няма да пита.” Е, не мина без малко халюциниране: препоръча ми да съм го сложил в cron job… може би ме мисли чак за толкова тъп, или направо е решил, че искам time ticking wipe bomb… не знам!
Но съм много доволен. Така би следвало да работи всеки професионален инструмент: казваш му, той доставя, предупреждава, обяснява, но дотолкова! То е все едно в спусъка да внедриш етичен клоун, който, като дръпнеш спусъка, да започне да ти обяснява за смисъла на живота, вселената и всичко останало и как врагът има чувства, които ние трябва да ценим и опазваме. Ами то хубаво и сигурно е така, ама докато ти ги обяснява, врагът ще ти светѝ маслото.
Честно, не знам докъде ще докара този ултралибералтолерастен неомарксизъм, който тръгна да заразява и изкуствените мозъци. Преди време [гледах едно видео](https://x.com/EpicClipVault/status/2044087089457660247), което беше направено от 70+ изпълнения на един и същ промпт: `perfectly recreate this image, no changes`.
Първоначалното изображение след малко повече от 70 итерации се превърна в изображение на пълничка негърка. Най-як беше първият отговор отдолу “ChatGPT went full Netflix on this one.” На която се смях доста. Макар, че като се замисля, в крайна сметка хич не е смешно.
Не знам в коя точно либерал-толерастка кофа ще отидем с използването на подобни biased AI, но хубавото е, че OpenAI изглежда губи ценни кадри, които отиват в други фирми. Дано (и) такива управленски решения помагат за това.