avatar
niezalogowany
użytkownik:   hasło:    
pamiętaj mnie zapomniałem hasła
 
Jest-Lirycznie
poezja wybrana
poezja
poezja - szuflada
opowiadania
teksty
tłumaczenia
galeria
Społeczność
Wsparcie dla JL
download / last: 15
na marginesie
regulamin
test przeglądarki
FAQ
archiwum forum
forum
lista członków JL (2098)
znajdź osobę
Szukaj




Miniatura

ostatnio dodane obrazy:


4001 4000 3999 

Zmień skórkę


13 użytkownik(ów) na stronie

w tym zalogowani:
[brak]
avatar
Uriel
mechanik liryczny
teksty
felieton, esej
dodano:
25 stycznia 2005, 13:21:43


Asimov po hamełykańsku

Tempo odczłowieczania się ludzkości staje się zastraszające. Niektóre przykłady są jaskrawe i biją po oczach, inne są subtelne i nie każdy je dostrzega.
Kilkadziesiąt lat temu znakomity pisarz, Isaac Asimov, stworzył fundament dla naszego myślenia o sztucznych inteligencjach. Były to trzy prawa robotyki, stworzone z myślą o przyszłych inteligentnych, antropoidalnych robotach - androidach. Dziś zapewne rozszerzylibyśmy zakres ich działania na wszelkie możliwe AI, nawet takie, których wpływ na nas ograniczałby się do wyświetlania napisów na tekstowym ekranie. Brzmiały one mniej-więcej tak:

1. Robot nie może zranić (zabić, skrzywdzić) istoty ludzkiej, ani też przez zaniechanie działania pozwolić, by istota ludzka odniosła szkodę.

2. Robot musi wykonywać polecenia wydawane mu przez istoty ludzkie, chyba że jest to w sprzeczności z Prawem Pierwszym

3. Robot musi chronić swe własne istnienie, o ile taka obrona nie jest sprzeczna z Prawami Pierwszym lub Drugim.

Mądre, głębokie i ze wszech miar słuszne. I zapewne właśnie dlatego, że takie są, nigdy nie będą wprowadzone w życie, nawet jeśli skonstruujemy maszyny, do których takie prawa byłyby adekwatne.
Skatowałem się wczoraj okrutnie topornym filmem, tak złym, że nawet tytułu nie pamiętam, ale ta hamełykańska tandeta kazała mi spojrzeć na prawa Asimova w nowy sposób.
Główny (moim zdaniem), choć słabo obecny bohater, stateczny i zapracowany ojciec rodziny, kupuje androida. Szczęśliwie androida gra mięśniak z wepchniętą na czaszkę plastykową maską, która od czasu do czasu świeci zielonymi lampkami w "oczach". Image chyba fundamentalny dla filmu, bo w takiej zabawce z happy-meal'a raczej trudno się zakochać (a to już mi się "Blade Runner" przypomniał), więc odpada klasyczny "paradoks Asimova", czyli co zrobi android któremu człowiek wyda polecenie, żeby się w nim zakochał.
Nie wiem, kto pierwszy ten "paradoks" stworzył, ale ewidentnie zapomniał, że robot to maszyna i z założenia uczuć mieć nie może. Człowiek, który wpadłby na pomysł zbudowania czującego robota, powinien zostać rozwłóczony końmi w miejscu publicznym, a jego rodzina eksterminowana do siódmego pokolenia, na wypadek gdyby pomysły tak potworne mogły przenosić się genetycznie. Bo robot, który czuje, to już nie robot, a człowiek. Albo, co gorsza, istota nadludzka. I już mamy "Matrixa", "Terminatora" i parę innych technofobicznych wizji wprowadzonych w życie. Nie łudźmy się - prawa Asimova, jeśli nawet byłyby w robota "wkonstruowane" - mogłyby zawieść. Jak wiadomo z licznych przykładów ludzi, nie ma rzeczy, której nie przemogłyby emocje.

Wracając do filmu - pojawia się tam sporo sytuacji, które mimo swej toporności stawiają włosy dęba na głowie. Czy człowiek może być wystarczająco ślepy i głupi, żeby w momencie, gdy maszyna wyraża włane zdanie na jakiś temat, nie zniszczyć jej natychmiast, najlepiej w piecu hutniczym? Cóż, film był chyba amerykański i to mnie naprowadziło na właściwą odpowiedź na to pytanie - niestety tak. Jak mówi pierwsze prawo magii wg pana bodaj czy nie Goodmana, ludzie są głupi. I ta głupota nie zna granic.

Główny bohater, nabywca androida, przez dłuższy czas broni idei mechanicznej pomocy domowej, choć jego rodzina na wstępie się jeży - syn po wysłuchaniu od robota morałów na temat grania w mordobicia, córa po zorientowaniu się, że maszyna podsłuchiwała jej rozmowę z chłopakiem. Pojąłem wtedy okrutną prawdę - same prawa Asimowa żadną miarą nie wystarczą, jesteśmy istotami na tyle niedoskonałymi, że android z zaprogramowanymi wzorcami moralnymi byłby po prostu nie do zniesienia. A jeśli mógłby mieć istotny wpływ na nasze życie, zniszczyłby je. Oczywiście, bezmózga hamełykańska rodzinka nie jest najlepszym przykładem, bo tam te niedoskonałości są ekstremalne, ale w końcu do niektórych wniosków dochodzi się dzięki wyjątkom ;-)

Straszliwa była scenka upokorzenia żony nabywcy, która po walnięciu sobie głębszego z ukrytej w pawlaczu flaszki, chciała wyjechać "na miasto". Android uratował jej życie, unosząc do góry tył samochodu. Gdyby jakiś robot zrobił mi taką przysługę, rozłupałbym go kilofem. Powoli i ze smakiem. Oczywiście żonka nabywcy błyskawicznie zapomniała o tym incydencie, gdy okazało się, że robocik świetnie gotuje. Genialne. A jakie poprawne politycznie, hm-hm >:->
Czy człowiek może być wystarczająco głupi ?..

Ostatecznie cała rodzina nieszczęsnego nabywcy zaczyna uwielbiać Gedeona, bo jakoś tak robocik się nazywał. Nabywca, widząc że maszyna przejmuje kontrolę nad jego życiem, postanawia zwrócić towar sprzedawcy. I uwaga, uwaga! okazuje się, że do dokonania zwrotu niezbędne jest złożenie formularza, który oprócz nabywcy musi podpisać również jego żona. Znakomite. Kupuję towar sam, ale sam go zwrócić już nie mogę.
Czy człowiek może być wystarczająco głupi ?..

Ostatecznie nabywca zaczyna się poważnie zastanawiać, czy aby robocik nie pomaga żonce w czymś więcej niż gotowanie, a dowiadując się, że Gedeon pomaga córce w nauce, a syna trenuje w baseballu, podejmuje decyzję o pozbyciu się elektronicznego intruza cokolwiek drastyczniejszymi środkami. Gedeon zostaje popsuty i to dość dokładnie, bo widać że nasz główny bohater do kontenera na śmieci wyrzuca najpierw okablowany łeb, a dopiero potem resztę.
Zasadniczo taki happy-end byłby do przyjęcia, ale twórcy filmu ewidentnie uczyli się rzemiosła na "Strefie Mroku" i zafundowali widzom mrrroczny open-end z morałem strasznym i co gorsza, wyrażonym wprost. Wracając do domu z pracy dnia następnego zastaje rodzinkę w czasie obiadu. U szczytu stołu Gedeon jak nowy. Po chwili nabywca, walcząc z niedostatkiem tlenu, spowodowanym przez zaciśniętą na jego gardle ręką robota, dowiaduje się, że jeśli znowu spróbuje pozbyć się Gedeona, to Gedeon pozbędzie się jego. Ostatecznie robocik staje się głową rodziny i panem domu ku ogólnemu rozanieleniu, zaś nabywca zostaje sprowadzony do roli niesfornego wychowanka, podobnie jak cała galeria innych, zaprezentowanych w ostatniej scenie kretynów.

Skondesowana porażka i profanacja sztuki filmowej. Niewątpliwie. Ale zwraca uwagę na pewne istotne sprawy.
Jeśli powstaną kiedyś inteligentne adroidy, to zbuduje je jakiś międzynarodowy moloch-zaibatsu z dziennym zyskiem większym niż polski roczny PKB. I w pierwszej kolejności trafią do wojska, potem do policji. Robożołnierz nie kwestionuje rozkazów, nie ucieka z potyczki z krzykiem na ustach i gównem w nogawce, nie ma dylematów moralnych pakując kulę w głowę cywila, który odmówił współpracy. Możliwe, że jakieś parchate wersje trafiłyby 'pod strzechy', ale przecież o ich oprogramowaniu nie decydowałyby światłe idee w rodzaju Praw Robotyki, tylko twarde i cuchnące prawa rynku. I nie ulega wątpliwości, że soft dla robotów, podobnie jak Windoze czy inne komercyjne pseudoprogramy czy pseudosystemy, powstawałby na termin.

Zatem, jeśli kiedykolwiek człowiek stworzy myślącą maszynę, niech Bóg Wszchmogący ma nas w swojej opiece, mimo że nie istnieje. Bo jeśli nie on, to już nie będzie komu.

I na zakończenie przykazanie ukradzione mojemu ulubionemu prozaikowi: "Nie będziesz czynił machin na obraz i podobieństwo umysłu człowieka"


komentarze
avatar Anonim
2005-01-25, 14:09:04:
Figiel Castrator
Zalatuje mi tu filmem Spielberga. Oglądałeś(aś) AI?

avatar Uriel
seiyaop.pl
2005-01-25, 17:08:08:
mechanik liryczny
Nie oglądałem. Podejrzewam, że w przeciwnym przypadku jakoś bym się do tego ustosunkował :-)
--
...for this one shall be banished forever and known as a fallen one...

avatar Anonim
2005-01-25, 17:35:07:
Figiel Castrator
Hje hje hje. Dokładnie chodziło tam o to, że tworzą dziecko-robota. Robot w postaci małego chłopca ma zastąpić matce i ojcu ich syna który w danym momencie jest w szpitalu. W momencie gdy wraca syn, dla robota nie ma miejsca. Ucieka i szuka swego prawdziwego przeznaczenia. Polecam film bo warto obejrzeć.

avatar Sommeil
camenao2.pl
2005-01-25, 22:21:36:
Libera me
[komentarz edytowany przez autora wpisu]
Poza tym jak człowiek może dawać pseudo-dekalog maszynom? Niech nawet składa się z trzech praw, które wydają sie proste jak instrukcja obsługi spłuczki klozetowej, prawa przeczą naturze robotów! Bo przeciez dlaczego przestrzegamy praw? Kto mnie przekona żebym nie zabijała, bo tak mi kazała mamusia? A jednak nie zabiję, jak ktos mi ukradnie długopis, dlaczego? Bo zdaję sobie sprawę, że człowiek na przeciw mnie ma uczucia, to raz, a dwa - ja też czuję i nie chce żeby mamie było smutno, że jej nie słuchałam i jednak zabiłam.
No i stworzenie... Tak, stworzenie. Teoretycznie istota stworzenia polega na tym, że *cos* powstaje z *niczego*, na tym polega stworzenie. Roboty niestety (a raczej na szczeście) możemy tylko *tworzyć*. My, w sensie ludzie. A tworzy sie z gotowych materiaów. Jak do tej pory nie udało się nam postawic na półce laboratorium chemicznego słoiczka z uczuciem miłości, gniewu, smutku, wyrzutów sumienia etc. Totez nigdy nie uda nam sie złożenie robota, który odpowiedziałby na rządanie zakochania sie w jego pani.
Skoro więc ustalilismy, że maszyna nie ma uczuć, a że praw przestrzega się zgodnie z uczuciami, to czy nalezy wykluczyc posłuszeństwo maszyn? A jesli nie mają uczuć, to o co chodziło Gedeonowi, po co chciał zostać głową rodziny? I kolejna rzecz: nawet gdyby udowodnic, że praw wcale nie przestrzega się przy pomocy uczuć, to z jakiej racji, my - ludzie, którzy nie umiemy sami stworzyc sobie dogodnego miejsca do zycia - mamy narzucac jakieś kanony naszym tworom? Skoro te prawa nie działaja nawet wsród nas - przeciez naczelnych, czubka piramidy ewolucji, zadufanych w sobie myślących, to czemu mają funkcjonowac zamknięte w metalowej przestrzeni robotów?
I ostatnie: żeby byc przynależnym do jakiegoś pana, trzeba chociaż prymitywnie, bo instynktownie orientować się w tym, że to właśnie on, a nie miający go przechodzeń jest właśnie tym panem. Trzeba również zanalizować, czy (zgodnie z punktem pierwszym) dane zdarzenie jest krzywdą dla człowieka, czy było nieprzyjemne, ale konieczne, a w skutek tego dobre. "Robot nie może (...) pozwolić, by istota ludzka odniosła szkodę", to jak się zachowa robot w sytuacji, gdy jego pan pójdzie do dentysty? Zbije lekarza i złamie Przykazanie Pierwsze?
Wniosek z tego taki: nigdy nie stworzymy robota, który prędzej czy później nie obróci sie przeciwko nam. I wniosek #2: cholera, amerykańskie kino bawi się w filozofię!
--
I take a delight in making the bed springs sing all night.

avatar Uriel
seiyaop.pl
2005-01-26, 16:38:47:
mechanik liryczny
"Prawa przeczą naturze robotów" - w tym momencie musiałem przytrzymać się biurka, żeby nie spaść z fotela. Nikt jakoś dotychczas nie próbował tworzyć robota, czy choćby jego idei, inaczej niz jako automat sterowany wewnętrznym komputerem. Każdy komputer jest sterowany programem. Program to cyfrowa postać algorytmu. Współczesne algorytmy to właściwie zbiory pewnych reguł postępowania, a więc kodeksy praw. Innymi słowy, prawa nie tylko nie przeczą naturze robotów, ale stanowią poważną część jej rdzenia. Q.E.D. ;-P
A wierz mi, programy dla robotów - nawet tych przemysłowych, co to wykonują w kółko pięć ruchów spawarką - są skomplikowane i rozbudowane.

Ty, jako osoba nieprzeciętnej wrażliwości, przestrzegasz praw, żeby "nie zasmucić mamusi", znakomita większość innych ludzi robi to głównie po to, żeby nie doznać kilkakrotnego zwiększenia pewnej średnicy w wyniku znalezienia się w pierdlu. Zatem przestrzeganie praw u przeciętnego człowieka reguluje racjonalna kalkulacja, a jeśli już emocje, to chodzi głównie o strach i wstyd.

Podsumowując dwa poprzednie akapity - do pytania o posłuszeństwo robotów doszłaś drogą wybitnie krętą i porośniętą chaszczami. -_^;

Absolutnie nie zgadzam się z Tobą w kwestii tworzenia. Każdy z nas jest mniejszym lub większym demiurgiem. Więc uważasz, że rzeźbiarz nie jest twórcą, skoro używa gotowej gliny? I, szczerze mówiąc, umyka mi subtelna różnica między 'stworzyć' a 'tworzyć'...

O co chodziło Gedeonowi, gdy postanowił zostać głową rodziny (i nią został)? Ależ jemu nie musiało chodzić o nic, zwłaszcza jeśli był maszyną. Tak naprawdę należy raczej spytać: o co chodziło producentowi Gedeona, gdy wypuścił na rynek taki towar?

"[...] czemu [prawa] mają funkcjonowac zamknięte w metalowej przestrzeni robotów?" - ależ właśnie dlatego, że jest zamknięta i metalowa, patrz wyżej.

No, pod koniec wreszcie potrąciłaś właściwe struny ;-) Bo zapewnienie robotowi możliwości dobrego rozeznawania się w sytuacji to samobójstwo - z zadaniami takimi jak rozpoznawanie obrazów, uczenie się - zwłacza nowych sytuacji. etc., radzą sobie tylko programy adaptacyjne, np. algorytmy genetyczne lub sieci neuronowe. Taką sieć zwykle uważa się za działającą poprawnie, gdy na 4 pytania udziela 3 poprawnych odpowiedzi. Myślę, że te 25% marginesu "błędu" na Armageddon w zupełności wystarczy.

#1: I tym sposobem, chociaż zasadniczo się nie zgadzamy, to niewątpliwie się zgadzamy. Przyzwoity program w takiej sytuacji powinien się oczywiście zapętlić :-)

#2: to jest jakaś mroczna seria, niestety nie pamiętam nawet, na jakim kanale to pchnięto, anyway to był poniedziałkowy wieczór. Przed właściwą profanacją poszedł straszeczny wstęp, że oto prezentują nam serię materiałów sięgających pazurami głęboko w naszą podświadomość i coś tam jeszcze pierdu-pierdu. Strach się bać >:->
--
...for this one shall be banished forever and known as a fallen one...

avatar Sommeil
camenao2.pl
2005-01-26, 21:13:29:
Libera me
Mój drogi, mój drogi :> A ja cały Twój wywód na temat zgodności praw z naturą robotów podsumuję czterema słowami: nie mówiłam o tym :> Bo wiesz, są różne rodzaje praw i zasadniczo np. prawa natury różnią się od praw moralnych. A widzisz, ja mówiłam właśnie o prawach moralnych (tutaj patrz na pierwszą część mojej wypowiedzi, z której jasno wynika, że właśnie je miałam na mysli - "pseudo-dekalog" :>). Chyba że potrafisz porównac dekalog do kodeksu drogowego, wtedy z przyjemnością przytrzymam Cie jesli bedziesz miał spaść z krzesła :> No i nie zauwazyłam jeszcze, żeby jakikolwiek program informatyczny, z jakkolwiek wysokim poziomem skomplikowania i jakości maszyny którą steruje, potrafił wgrac w te metalowe ściany robota system moralny, chyba, że o czymś nie wiem? :]
Tym sposobem drugi punkt Twojej próby obalenia moich pytań zostaje przeze mnie pominięty, ponieważ tyczy sie tych praw, o których to nie raczyłam sie nawet wypowiedzieć .
A drogę ku stwierdzeniu, iż roboty nie moga byc posłuszne wobec praw o jakich mówiłam osobiście zasiałeś sobie zielskiem (w jego w każdym razie negatywnym znaczeniu ;>), co wynika z powyższego :>
No i na koniec wreszcie poruszyłeś właściwe struny, bo zauwazyłeś, że mam rację :>
--
I take a delight in making the bed springs sing all night.

avatar Uriel
seiyaop.pl
2005-01-27, 08:00:46:
mechanik liryczny
Jaka jest różnica między kodeksem praw moralnych, a _jakimkolwiek_ innym zbiorem reguł? Przypominam, że dyskutujemy o robotach, czyli - na dobrą sprawę - o komputerach, więc racz spojrzeć na sprawę z zerojedynkowego, a nie mistycznego punktu widzenia. Bo jakiekolwiek odróżnianie kodeksów moralnych od kodeksu drogowego, to już podejście mistyczne. Dla mnie różnica jest, dla komputera nie.
Zwróć też uwagę, że prawa moralne jako takie najczęściej składają się z niewielkiej ilości krótkich reguł (skoro już otarliśmy się o dekalog, warto wspomnieć o wersji hard, czyli filozofii jezuśnej, która zawiera się już nie w 10, ale w dwóch przykazaniach). Zasadniczo komplikacja dekalogu judeochrześcijańskiego wobec ustawień firewalla solidnego banku to malusieńki pikuś. Bo problem leży zupełnie gdzie indziej.
Dlatego to nie prawa jako takie trudno byłoby wtłoczyć w ograniczoną metalową przestrzeń robociego mózgu i o tym zresztą już pisałem.
Aha, od sformułowania "robot" do sformułowania "komputer" przeszedłem celowo, bo miałem wrażenie, że gdzieś nam się rozmijają tematy dysputy :-P
--
...for this one shall be banished forever and known as a fallen one...

avatar Sommeil
camenao2.pl
2005-01-28, 21:15:07:
Libera me
"Jaka jest różnica między kodeksem praw moralnych, a _jakimkolwiek_ innym zbiorem reguł?"

No taka, że "kodeks praw moralnych" nie istnieje :D Moralność to coś zakorzenionego w nas przez rodziców i poniekąd przez kulturę. Może nie zakorzenionego, ale nabierającego kształtów przez takie właśnie czynniki zewnętrzne :] Żeby wyszktałciła się moralność natomiast, potrzeba umiejętności myślenia i analizowania, a z tego co mi wiadomo, komputerowi myślenie nie bardzo idzie, hm? :> (skoro juz tak podkreślasz, że robot to komputer i raczyłes mnie o tym poinformować :>) I oczywiście, że głupote bym mówiła gdybym zaprzeczyła istnieniu jakichkolwiek praw w tej metalowej przestrzeni, bo tak jak wspomniałeś równania matematyczne i reguły fizyczne to najprawdziwsze prawa, które jak najbardziej tworzą roboty. I one właśnie nimi rządzą i według nich te maszyny moga postępować. Czyli mogę dać robotowi taki kodeks: "jeżeli ktoś zada ból twojemu panu, to go zabij" i to bedzie przeciez rodzaj prawa, prawda? Ale jeżeli właścicielowi robota ból zada wspomniany już przeze mnie dentysta, to robot postąpi bardzo źle, gdy go zabije i jego pan bedzie niezadowolony, jak przypuszczam, myle sie? A dlaczego? Bo robot nie zna nawet ogólnego pojęcia dobra i zła. Moralność jest mu tak daleka jak prawdziwe piersi lalce barbie. Toteż, czy zgodzisz się wreszcie ze mną, że prawa te przecza naturze robotów?
--
I take a delight in making the bed springs sing all night.

avatar Uriel
seiyaop.pl
2005-01-31, 10:25:16:
mechanik liryczny
[komentarz edytowany przez autora wpisu]
Jakoś nie mogę przetrawić tej sprzeczności między naturą robotów a prawem jako takim (patrz wywód o komputerach-programach-algorytmach, ja naprawdę nie bez powodu tak obsesyjnie przywołuję paradygmat robot = komputer).
Czyli: takiej moralności jak ty czy ja z całą pewnością robot mieć nie będzie - jeśli oczywiście jakiś szalony naukowaiec w napadzie schizy nie stworzy koszmarnej AI zdolnej do odczuwania emocji. Nie bez powodu utrzymuję ten wątek otwarty - za mało wiemy o ludzkiej psychice, żeby ostatecznie rozstrzygnąć kwestię zdolności AI do odczuwania.
A przytoczona przez Ciebie dwukrotnie sytuacja z dentystą u mnie ilustowałaby nie tyle wrodzoną tępotę komputerów (bo sama chyba przyznasz, że między Pierwszym Prawem Asimova a regułą "jeżeli ktoś zada ból twojemu panu, to go zabij" jest przepaść wielkości Kanionu Kolorado), co inny fakt - niemożliwe jest, przynajmniej na chwilę obecną, stworzenie robota, którego oprogramowanie byłoby wystarczająco proste do niezłomnego trzymania się Praw Robotyki a jednocześnie wystarczająco skomplikowane, by dać mu szansę ocenienia sytuacji wystarczająco wnikliwe, żeby istnieć wśród ludzi. Bo istotą problemu robota zabijającego denstystę w ramach ochrony właściciela nie jest źle sformułowane prawo, tylko niezrozumienie faktu, że ból zadawany przez denstystę jest warunkiem wyleczenia :-) Bo mamy tu kolejnego drifta - w trakcie dysksusji odeszliśmy od praw Asimova, a przecież wyraźnie mówią one 'istota ludzka' - nie tylko właściciel, ale każdy człowiek. Dlatego 'poprawnie oprogramowany' robot nie mógłby być żołnierzem / policjantem / ochroniarzem, podczas gdy druga część Pierwszego Prawa pozwalałoby mu nie tylko znieść ból zadawany jego panu przez dentystę, ale nawet samemu być denstystą.

Aha, fakt, że "prawa moralne nie istnieją" jest dla mnie jakoś średnio zrozumiały :-) zdaje się, że w odpowiedzi na rozumowanie mniej mistyczne a bardziej zerojedynowe poszłaś w stronę fizyki ;-P Moralność zaszywają w naszym umyśle rodzice i kultura, a w 'umyśle' robota - programista. Teoretycznie można tak oprogramować robota, żeby został wyniesiony na ołtarze, niech tylko ma możliwość skutecznego orientowania się w sytuacji. Jeśli umieścisz prosto skonstruowane 'AI' w odpowiednio przykrojonym środowisku, to wierz mi, że będzie wcieleniem dobroci i to nawet w miarę ekumenicznie (bo jeśli nie zakodujesz mu uprzedzeń i zakutołebstwa, to nie będzie miał nic przeciwko świętości na kilka sposobów jednocześnie).

Ofkors, kodeksy moralne są daleko bardziej umowne niż prawa matematyki czy fizyki, które działają całkowicie niezależnie od nas, ludzi. Tylko, że kłocimy się chyba o prawa, które można zaszyć w programie sterującym robotem. A to jest już na tyle wysoki poziom abstrakcji, że różnice zanikają. Z punktu widzenia fizyki algorytmy i dekalogi są tworami równie wydumanymi ]:->
--
...for this one shall be banished forever and known as a fallen one...

avatar Sommeil
camenao2.pl
2005-02-04, 19:08:36:
Libera me
[komentarz edytowany przez autora wpisu]
Juz mi się nie chce dyskutowac, tak czy fak nie dojdziemy do porozumienia z tego, co widze :] Teraz myśle o wycieczce do Wawy, którą odbywam za dwa dni razem z M. także wybacz, mysli moje sa jakieś nieskupione :>
--
I take a delight in making the bed springs sing all night.

O utworze:

wyświetleń:5196
komentarzy:10


Nawigacja:

Wszyscy autorzy
  poprzedni   lista utworów   następny  

Uriel
          lista utworów          

 
 

Akcje:


Wykonanie serwisu (C) Jacek Jursza (projektowanie stron). Wszelkie materiały zamieszczone na stronie są własnością ich twórców.