‫دوستان مکانیکی، ربات‌های آمیکوس.
‫یک نام کلی برای اندرویدها.
‫آمیکوس‌ها با قوانین احترام برنامه‌ریزی شده‌اند.
‫احترام گذاشتن به انسان‌ها.
‫اطاعت کردن از دستورات انسان‌ها.
‫هرگز به یک انسان حمله نکن.
دنیای انیمه تقدیم می‌کند
مترجم: سورنا
زیرنویس های بیشتر درکانال تلگرامی
@awsub @SorenaSubs
‫یه نگاه به این بنداز، آیدن.
‫تقریباً تمومه.
‫میدونی، اون پروپوزال پروژه.
‫تو واقعاً یه نابغه ای، لکسی.
‫وقتی فارغ التحصیل شم و به نووی رباتیکس ملحق شم،
‫قطعاً از این سیستم برای ساخت ربات های آمیکوس استفاده می کنم.
‫- با من بسازشون، باشه؟ ‫- البته.
‫و...
‫اگه بتونم با استفاده از این مشخصات ‫یه آمیکوس بسازم،
‫می خوام فقط از اطلاعات ظاهری تو استفاده کنم.
‫داری میگی می خوای منو تبدیل به یه ربات آمیکوس کنی
‫و مثل یه برده بهم دستور بدی؟
‫به نظر من، چهره تو درجه یکه.
‫میتونم مخالفت کنم؟
‫یه مدل تولید انبوه نخواهد بود.
‫یه مدل سفارشی خواهد بود.
‫این تحقیق همیشه ‫برام خاص بوده.
‫به همین دلیله که فقط می خوام از بهترین و خاص ترین اطلاعات استفاده کنم.
‫متوجه شدی؟
‫این یعنی تو برام از همه خاص‌تری.
‫من می‌خوام کد سیستم اصلی هارولد رو ‫برای دیدن همه دنیا آپلود کنم.
‫اونوقت، لکسی، تو میری زندان ‫و مدل‌های آر اف تعطیل میشن.
‫پس انگیزه اصلیت از اول همین بود، ‫از سوءاستفاده از ظاهرت
‫برای حمله به آدم‌های مرتبط با مدل‌های آر اف،
‫و دزدیدن و استفاده از من ‫برای افشای کد سیستم هارولد؟
‫البته هیچ کدومش جواب نداد.
‫ولی به لطف دزدیده شدن ‫و زندانی شدن توسط ماروین،
‫من می‌تونم مستقیماً ‫خودم هارولد رو اینجوری تحلیل کنم.
‫کاری کردی که به نظر برسه ‫ماروین کنار رودخونه مرده
‫تا ما دیگه دنبالش نگردیم؟
‫خب، معلومه که می‌فهمیدی ‫کار من بوده.
‫من ماروین آسیب‌دیده رو خیلی وقت پیش پیدا کردم.
‫جعبه سیاه اون خیلی مشکل داشت، ‫حتی منم نتونستم درستش کنم.
‫من از اون موقع تا حالا ‫اونو تو اون ویلا پنهون کردم.
‫نمی‌خواستم با پسر دوست‌داشتنیم خداحافظی کنم.
‫پسر دوست‌داشتنی؟
‫چه حرفیه وقتی سرشو قطع کردی.
‫چون این مهم‌ترین قسمت یه آمیکوسه.
‫من اونو سالم نگه داشتم.
‫تو سر ماروین رو گذاشتی روی بدن ریب.
‫عالیه، مگه نه؟
‫یا همه چی یا هیچ چی، ‫برای همین یه تغییراتی تو کد سیستم دادم،
‫و اون واقعاً شروع کرد به حرکت کردن.
‫پس از همون اول می‌دونستی که فورمن ‫مرد پشت حملات مدل‌های آر اف بوده.
‫تو ماژول رانندگی ربات نگهبان آمیکوس رو دستکاری کردی ‫تا فورمن بتونه فرار کنه،
‫کاری کردی ماروین اون رو بدزده و زندانی کنه، ‫همه اینا بخاطر این بود که بتونی خاطراتش رو بازنویسی کنی.
‫چه خاطراتی رو ‫می‌خواستی بازنویسی کنی؟
‫این.
‫کد سیستم هارولد؟
‫بازرس سایبری هیدا، لکسی جرمی مرتکب شده ‫که تو ازش خبر نداری.
‫این کد حاوی راز ‫مدل‌های RF هست.
‫راز مدل‌های RF؟
‫لکسی، همه چیز رو ‫به بازرس سایبری اعتراف کن.
‫وگرنه همینجا ‫مغزتو متلاشی می‌کنم.
‫فورمن!
‫باشه، فهمیدم.
‫ولی این تویی که قراره ‫از این کار پشیمون بشی.
‫اسمش سیستم شبیه‌سازی عصبیه.
‫مگه ما پیشرفت‌های بزرگی ‫در درک شبکه عصبی انسان نداشتیم
‫از وقتی که همه شروع کردن ‫به استفاده از سیستم Your Forma؟
‫حتی متخصصان الفینستون هم سعی کردن ‫روی کاربردهای عملی تحقیق کنن
‫ولی همه‌ش به شکست ‫منتهی شد.
‫و اون نظریه فراموش شد. ‫تا اینکه من وقتی دانشجو بودم دوباره پیداش کردم.
‫تحقیقات من تا زمانی که ‫به نوا روباتیکس ملحق شدم، کامل شده بود.
‫تنها کاری که باید می‌کردم این بود که منتظر زمانی ‫باشم که بهش نیاز باشه.
‫و اون زمان جشن الماس ملکه بود،
‫جایی که نوا روباتیکس ربات‌های ‫آمیکوس رو بهش هدیه داد.
‫ربات‌های آمیکوسی که به ملکه هدیه داده شدن
‫باید پیشرفته‌ترین ‫فناوری رو می‌داشتن.
‫خب، من مدل‌های آر اِف رو اسم گذاشتم
‫"هوش مصنوعی چندمنظوره نسل بعد."
‫موجودیتی که فرایند فکری کاملاً متفاوتی
‫نسبت به اندرویدهای تولید انبوه داره.
‫ماشین‌های جدیدی با سیستمی مشابه ‫شبکه عصبی مغز انسان،
‫ماشین‌هایی که سیستم شبیه‌سازی عصبی ‫در اون‌ها تعبیه شده.
‫اون‌ها...
‫مدل‌های آر اِف بودن.
‫من چیزی رو ساختم که ‫هیچ‌کس تا حالا موفق به ساختنش نشده بود.
‫من مخالفش بودم.
‫جعبه سیاه اون‌ها خیلی بزرگ می‌شد.
‫اما لکسی به حرف من گوش نکرد.
‫به همین خاطر تیم توسعه رو ترک کردم.
‫تا یه حفره بزرگ توی تیم ایجاد بشه.
‫و شاید این باعث بشه که اون مجبور بشه ‫پروژه رو تغییر بده.
‫اما بعد از اینکه من رفتم،
‫مدل‌های آر اِف تاییدیه
‫از کمیته بین‌المللی اخلاق هوش مصنوعی رو گرفتن ‫و تولید شدن.
‫داری میگی اون به آی اِی ای سی دروغ گفته؟
‫آی اِی ای سی از نظر من فقط یه باشگاه ‫از آدم‌های نادونه.
‫اون‌ها به راحتی با یه ‫پیشنهاد جعلی گول خوردن.
تیم توسعه و معاون مدیر آنگوس هم در جریان بودن؟
‫نه. هیچ‌کس نمی‌دونست.
‫فریب دادن اون‌ها هم به همون آسونی بود، با استفاده از ‫یه سیستم ساختگی برای پوشوندن سیستم واقعی.
‫اما برخلاف اون‌ها، آیدن فهمید که ‫سیستم شبیه‌سازی عصبی چیه.
‫به خاطر همینه که تونست کد اصلی رو اینجوری بکشه بیرون.
‫تو در مورد اینکه جعبه سیاه ها چقدر بزرگ میشن ساکت موندی
‫تا وقتی که تحقیقات شروع شد، مگه نه؟
‫تو نمیتونستی مسئولیتش رو به عهده بگیری.
‫من همیشه از این بابت پشیمون بودم.
‫از اینکه کمک کردم ربات های آمیکوس رو توسعه بدیم ‫که یه روزی بتونن انسان ها رو تهدید کنن.
‫اما بیشتر از همه، ‫از این پشیمون بودم که نتونستم جلوشو بگیرم.
‫از اینکه وایستادم و دیدم ‫که اون استانداردهای اخلاقی رو زیر پا گذاشت.
‫اخلاق؟
‫تو خیلی به قوانین پایبندی، هان؟
‫برخلاف من.
‫ولی من تعجب کردم.
‫وقتی رفتم ویلا تا اوضاع رو بررسی کنم،
‫ماروین مرده بود و تو بیهوش بودی.
‫علاوه بر اون، آیدن و هارولد هم هر دو رفته بودن.
‫و بعد تو اومدی اینجا.
‫تو هم درست مثل من فهمیدی، درسته؟
‫که اون به تجهیزات بزرگ نیاز داره ‫تا کد سیستم هارولد رو بکشه بیرون.
‫آیدن، من فکر میکردم من و تو ‫مثل هم هستیم.
‫ولی انگار فقط من بودم ‫که خاص به دنیا اومدم.
‫من یه موجودیت کاملاً جدید ساختم ‫که میتونه برای خودش فکر کنه.
‫به نظر میاد دیگه هیچوقت نمیتونیم با هم کنار بیایم.
‫تو میخواستی ما با هم کنار بیایم؟
‫به خاطر اینه که تو آدم خوبی هستی.
‫تو همیشه همینطور بودی.
‫یه زمانی از این قسمتت خوشم میومد.
‫ولی دلت واسش نمیسوزه؟
‫حتی با اینکه هارولد هیچ کار اشتباهی نکرده،
‫به خاطر کاری که تو کردی، خاموش میشه.
‫ایدن. مدل آر اف...
‫هارولد یه بچه خیلی مهم برای منه.
‫پس فقط کد سیستمش رو بهم پس بده!
‫دکتر لکسی!
‫بازرس سایبری! آپلودش کن!
‫پاکش کن.
‫تو هم نمیخوای هارولد خاموش بشه، مگه نه؟
‫خاموش...
‫چرا به حرفم گوش نمیدی؟
‫تو طرف اونی،
‫بازرس سایبری؟
‫ایدن.
‫تو نمیفهمی.
‫اون چیز قطعا برای خودش فکر میکنه.
‫ولی افکارش،
‫محاسباتش
‫یه سیاهچاله بی انتهاست.
‫این چیزی نیست که ما بتونیم هیچوقت بفهمیمش.
‫فکر کنم باید یاد بگیرم که بیشتر درکت کنم.
‫واقعا آرزو میکنم میتونستم یه نگاهی به ذهنت بندازم.
‫مثل وقتی که غوص مغزی میکنم.
‫منم آرزو می‌کنم می‌تونستم تو وجودت غرق بشم.
‫من کد سیستم رو تحویل می‌گیرم.
‫ایدن فورمن،
‫شما به جرم حمله و ربودن هارولد
‫و حملات متعدد مدل‌های آر اف، بازداشت هستید.
‫دروغ‌هات باید باورپذیرتر باشن.
‫منو ببخش.
‫نگفتم؟
‫تو قراره از این کار پشیمون بشی؟
‫دکتر لکسی...
‫من منموسین‌ها رو پاک کردم.
‫منموسین‌های اون از راز مدل‌های آر اف و مکالمه‌ای که الان داشتیم.
‫بازرس سایبری.
‫ماروین بی‌گناه بود.
‫اون فقط بعد از اینکه من تغییرش دادم به تو ‫و هارولد حمله کرد.
‫چون بهش یاد دادم هر کسی رو که سعی کنه ‫ایدن رو آزاد کنه، از بین ببره.
‫پس فرق داره
‫با اتفاقی که برای استیو افتاد.
‫دکتر لکسی.
‫من باید شما رو دستگیر کنم.
‫می‌دونم.
‫آخ...
‫- دکتر لکسی. ‫- چیه؟
‫ربات‌های آمیکوس با ‫سیستم شبیه‌سازی عصبی...
‫مدل‌های آر اف با یک شبکه عصبی ‫دقیقاً چطور شبیه انسان هستن؟
‫با ما انسان‌ها فرق دارن؟
‫اونا شخصیت‌های خودشون رو دارن،
‫و تو گفتی یاد می‌گیرن و رشد می‌کنن.
‫این اونا رو انسان نمی‌کنه؟
‫اینقدر خودتو دست کم نگیر.
‫انسان رو نمیشه به این آسونی ساخت.
‫پس دقیقا دستیار بازرسی سایبری لوکرافت چیه؟
‫اون خانوادشو دوست داره،
‫وقتی یه آدم مهم رو از دست میده ناراحت میشه...
‫ولی یه جنبه‌ی بی‌رحم و رباتیک هم داره...
‫نمی‌دونم.
‫چیزهایی که برای شبیه شدن به انسان ساخته میشن، لزوماً شبیه انسان نمیشن.
‫حتی ویکتور فرانکنشتاین هم قصد نداشت یه هیولا خلق کنه، می‌دونی.
‫از اونجایی که نمی‌تونیم به مغز یه ربات آمیکوس نفوذ کنیم،
‫نمی‌تونیم فرایندهای فکریشون رو کشف کنیم.
‫"شما تصمیم می‌گیرید که ما چی هستیم."
‫این چیزیه که احتمالاً ماروین میگه.
‫دکتر لکسی.
‫من یه کارآگاهم.
‫باید از قانون پیروی و ازش حمایت کنم.
‫اما نمی‌تونم کد سیستم رو بخونم یا بفهمم.
‫پس نمی‌تونم بگم که آیا سیستم شبیه‌سازی عصبی واقعاً وجود داره یا نه.
‫ممنون.
‫می‌دونستم از هارولد محافظت می‌کنی.
‫هی، بازرس سایبری.
‫اگه هنوزم هارولد رو به عنوان ‫دستیار بازرسی سایبری‌تون می‌خواید،
‫یه چیزی هست که باید بهتون بگم.
‫قوانین احترام چیا هستن؟
‫احترام گذاشتن به انسان‌ها.
‫اطاعت کردن از دستورات انسان‌ها.
‫هرگز به یک انسان حمله نکردن.
‫ولی عجیبه.
‫ربات‌های آمیکوس تولید انبوه ‫فقط طوری رفتار می‌کنن که انگار دارن فکر می‌کنن.
‫چطور انتظار دارید چیزهایی که حتی ‫مفهوم حمله به انسان رو ندارن،
‫از قوانین احترام اطاعت کنن؟
‫ربات‌های آمیکوس طوری ساخته شدن ‫که شبیه انسان‌ها باشن.
‫ولی هر کاری که ما انسان‌ها می‌کنیم خوب نیست.
‫برای همین مردم از یک آمیکوس می‌ترسن ‫و بهش مشکوک میشن
‫که ممکنه از کنترل خارج بشه و به یه انسان حمله کنه.
‫یا یه شورش به راه بندازه.
‫حتی با اینکه ‫ربات‌های آمیکوس تولید انبوه
‫اونقدرها هم باهوش نیستن که به انسان‌ها آسیب بزنن.
‫ربات‌های آمیکوس با قوانین احترام محدود شدن.
‫همین برای اینکه یه کاربر احساس امنیت کنه کافیه.
‫چون به همه آمیکوس‌ها یاد دادن که با قوانین احترام برنامه‌ریزی شدن.
‫طبیعتاً، همین موضوع برای مدل‌های RF هم صدق می‌کنه.
‫اما سیستم شبیه‌سازی عصبی ‫در مدل‌های RF
‫علاوه بر یک جعبه سیاه بسیار عمیق و گسترده، ‫یک فرایند فکری منحصر به فرد داره.
تو هم باید تا الان متوجه شده باشی، مگه نه؟
‫مقررات کمیته بین‌المللی اخلاق هوش مصنوعی بیان می‌کنه
‫هر سیستمی که از قوانین احترام پیروی نکنه، باید حذف بشه.
‫هیچوقت نگفته سیستم‌هایی که "نمیتونن" قوانین احترام رو نصب کنن باید حذف بشن.
‫در واقعیت، قوانین احترام اصلا وجود خارجی نداشتن.
‫دستیار بازرسی سایبری، صدای منو میشنوی؟
‫به عبارت دیگه،
‫پرونده تقریبا بسته شده.
‫خوشبختم که ما در انگلستان هستیم.
‫میتونم بدون سفارش قطعات تعمیر بشم.
‫تو...
‫شوخی بود.
‫ممنون که نجاتم دادی، بازرس سایبری.
‫میدونستی، مگه نه؟
‫که دکتر لکسی مشکوک بود.
‫بله.
‫متوجه شدم که مشکوک بوده
‫من در مورد ویلا از ریب شنیدم،
‫و لباس‌های شسته شده‌ای که تو حیاطش خشک میشدن یه لکه سیاه داشتن.
‫به احتمال زیاد از مایع خنک کننده بود
‫که وقتی سر ماروین رو برید، ملحفه‌ها رو لکه‌دار کرد.
‫بزرگترین سرنخ دیدن دکتر لکسی در رستوران بود
‫اون طرف خیابون میخانه، شبی که فورمن تو رو دزدید.
‫نمیدونم به چه منظوری،
‫اما به نظر میرسه که اون در اصل قصد داشته فورمن رو بدزده.
‫چرا اون اینقدر تلاش کرد برای دزدیدن فورمن؟
‫استفاده از ماروین برای زندانی کردنش هم عجیب بود.
‫هیچی بهت نگفت؟
‫من خیلی تمرکز کرده بودم روت که نجاتت بدم.
‫و فورمن.
‫چرا منو گذاشت توی این محفظه؟
‫فکر کنم میخواست تغییرت بده.
‫اون میخواست اعتبار دکتر لکسی رو از بین ببره.
‫شاید میخواست با به آشوب کشوندن تو، شهرتش رو نابود کنه.
‫از بین بردن اعتبارش نباید تنها هدفش بوده باشه.
‫مگه تو شیرجه مغزی به من نگفته بودی که
‫که اون از روی حس مسئولیت این کار رو کرده.
‫یه سری جزئیات رو نگفتم.
‫اون حس میکرد مسئولیتشه که،
‫"دکتر لکسی رو سرنگون کنه."
اون ‫مشکلات روانی داشت.
‫واسه همین گفتی باید روانکاوی بشه؟
‫ببخشید، رئیس توتوکی داره زنگ میزنه.
‫الان برمیگردم، همینجا استراحت کن.
‫بازرس سایبری، تو واقعا تلفن داری...
‫کمیته اخلاق هوش مصنوعی ‫مرکز اصلی لندن
‫یک هفته بعد
‫به عبارت دیگه، حملاتی که توسط هر دو مدل RF انجام شد
‫به خاطر تغییر کدشون توسط دکتر کارتر بوده.
‫اون مخفیانه داشت تحقیق میکرد که چطوری ربات های آمیکوس رو وادار به حمله به انسان ها کنه.
‫به نظر میرسه اون استیون و ماروین رو هم به عنوان بخشی از تحقیقاتش تغییر داده.
‫هارولد چی؟
‫ما معاینه‌اش کردیم و هیچ مشکلی پیدا نکردیم.
‫آیا نوا روباتیکس همچنان میتونه ‫ایمنی مدل آر اف رو تضمین کنه؟
‫بله.
‫همونطور که توی پیشنهادی که چند روز پیش ارائه دادم نوشتم،
‫مدل آر اف یک ربات امیکوس فوق العاده امنه.
‫این نوع مشکل دیگه تکرار نخواهد شد.
‫پس من به حرفتون اعتماد می کنم، آقای مدیر انگس.
‫بله.
‫خسته نباشید، بازرس سایبری هیدا.
‫شما فردا به سن پترزبورگ ‫برمی گردید؟
‫از وقتتون توی لندن لذت بردید؟
‫بله.
‫خیلی زیاد.
‫بازرس سایبری.
‫آیا چیزی که به رئیس گفتید تنها انگیزه دکتر لکسی بود؟
‫شما یه غوص مغزی تو ذهنش زدید، درسته؟
‫نتونستم.
‫همونطور که خودتون میدونید، دکتر لکسی ‫خاطرات فورمن رو به طور کامل پاک کرد.
‫اما خاطرات خودش رو هم پاک کرده.
‫من شخصاً از این به بعد از ‫هارولد نگهداری می کنم،
‫پس خیالتون راحت باشه.
‫- من اینجا منتظر میمونم. ‫- اما...
‫نگران نباش.
‫من اینو میخونم.
‫داریا و نیکولای رو منتظر نزارید
‫بازرس سایبری،
‫مکالمه‌مون توی بایبری رو یادتونه؟
‫آره...
‫اون موقع نتونستم ‫کلمات مناسب رو پیدا کنم،
‫و الان هم مطمئن نیستم بتونم پیداشون کنم،
‫ولی یه چیزی هست که باید بگم.
‫اینکه...
‫می‌خوام به همکاری با شما ادامه بدم.
‫البته،
‫به عنوان یه ربات آمیکوس، طرز فکر من
‫ممکنه مانعی برای همکاری‌مون باشه.
‫به خاطر همینه که می‌خوام از شما بپرسم.
‫چطوری می‌تونم
‫اون "شریک برابری" بشم که می‌خواید؟
‫همین که اینطوری فکر می‌کنی منو خوشحال می‌کنه.
‫ولی راستش رو بخوای،
‫منم نمی‌دونم.
‫چون من همیشه ‫از بقیه فاصله گرفتم.
‫و معنی واقعی طرز فکرت به عنوان یه ربات آمیکوس رو فهمیدم.
‫ولی با این حال،
‫تو اولین کسی هستی
‫که دلم خواست درکش کنم.
‫احتمالا بازم تو آینده منو آزار میدی.
‫ولی بازم می‌خوام به هم نزدیک‌تر بشیم.
‫پس اگه مشکلی نداری، می‌تونیم؟
‫فکر کنم این برای الان کافی باشه.
‫عجیب است که روح ما اینگونه ساخته شده،
‫و با چنین بندهای باریکی
‫به سعادت یا نابودی گره خورده‌ایم.
‫انگار بارون میخواد بیاد میاد.
‫تمام تلاشم رو می‌کنم که به شما نزدیک‌تر بشم،
‫بازرس سایبری.