একটি আছে কৃত্রিম বুদ্ধিমত্তা সম্পর্কে সিলিকন ভ্যালিতে দুর্দান্ত বিতর্ক চলছে এবং দুর্ভাগ্যক্রমে এই পদক্ষেপগুলি উচ্চতর: আমরা কী ঘটনাক্রমে একটি দুর্দান্ত স্মার্ট এআই তৈরি করব? যে আমাদের চালু করে এবং আমাদের হত্যা করে বা দাস করে?
পোর্শা উইলিয়ামসের জন্ম তারিখ
এটি গ্রীষ্মের বিপর্যয় সিনেমার দৃশ্যের মতো শোনাতে পারে তবে এটি ইলন মাস্ক থেকে শেষ অবধি বেশ কিছু বড় বড় চিন্তায় পড়েছে it's স্টিফেন হকিং ।
'আসুন আমরা বলি আপনি একটি স্ব-উন্নতি এআই তৈরি করেছেন create স্ট্রবেরি বাছাই করতে, ' কস্তুরী ড , তার ভয় ব্যাখ্যা করে, 'এবং আরও বেশি করে স্ট্রবেরি বাছাই করা আরও ভাল এবং ভাল হয় এবং এটি স্ব-উন্নতি হয়, সুতরাং এটি সত্যই যা করতে চায় তা হ'ল স্ট্রবেরি বাছাই করা। সুতরাং তখন এটি সমস্ত বিশ্বের স্ট্রবেরি ক্ষেত্র হতে হবে। স্ট্রবেরি ক্ষেত চিরদিনের জন্য। ' এই স্ট্রবেরি-প্যাকালাইপসের পথে মানুষ এআইয়ের জন্য কেবল ব্যয়যোগ্য জ্বালাময়ী হবে be
তবে অবশ্যই মানুষ এতটা নির্বোধ হবে না যে দুর্ঘটনাক্রমে একটি এআই ডিজাইন করতে পারে। সমস্ত সভ্যতার এক বিশালাকার বেরি ফার্মে পরিণত করতে পরিচালিত? সম্ভবত না, কিন্তু হিসাবে জেনেল শেন , এমন এক গবেষক যিনি নিউরাল নেটওয়ার্ক প্রশিক্ষণ দেন, এক ধরণের মেশিন লার্নিং অ্যালগরিদম, সম্প্রতি তা উল্লেখ করেছেন তার ব্লগ, এআই। অদ্ভুততা , এটি সম্পূর্ণরূপে সম্ভবত তারা ভুল করে এটি করতে পারে।
প্রকৃতপক্ষে, এটি প্রথমবারের থেকে দূরে থাকবে যে মানুষ ভেবেছিল যে তারা কেবল একটি কাজ ঘুরিয়ে দেওয়ার জন্য রোবট তৈরি করছে এবং এটি জানতে পারে যে রোবটরা তাদের উদ্দেশ্য কখনও করেনি এমন পদ্ধতিতে সিস্টেমটি গেমিং করছে। মনোমুগ্ধকর পোস্টটি রোবটদের বুনো হয়ে যাওয়ার বিভিন্ন উদাহরণ ভাগ করে নেওয়ার জন্য একাডেমিক সাহিত্যে প্রবেশ করেছে। এগুলি মজার, চতুর এবং একসাথে নেওয়া কিছুটা ভঙ্গুর চেয়েও বেশি।
1. আপনি যখন কাঁপতে পারেন তখন কার পা দরকার?
'একটি সিমুলেটেড রোবটটি যত তাড়াতাড়ি সম্ভব ভ্রমণের জন্য বিকশিত হওয়ার কথা ছিল। তবে পা বিকশিত হওয়ার পরিবর্তে এটি কেবল নিজেকে একটি লম্বা টাওয়ারে জড়ো করে, পরে পড়ে গেল। শেন লিখেছেন, এই কয়েকটি রোবট এমনকি তাদের পতনের গতিটিকে সামারসোল্টে পরিণত করতে শিখেছে, অতিরিক্ত দূরত্ব যোগ করে, 'শেন লিখেছেন।
২. একটি রোবট যা পারে - পারেন।
'সিমুলেটেড রোবটগুলির আরও একটি সেট এমন এক রূপে বিকশিত হওয়ার কথা ছিল যা লাফিয়ে উঠতে পারে। তবে প্রোগ্রামার মূলত লাফিংয়ের উচ্চতাটিকে সবচেয়ে উঁচু ব্লকের উচ্চতা হিসাবে সংজ্ঞায়িত করেছিল - তাই আবার - রোবটগুলি খুব লম্বা হয়ে উঠেছে, 'শ্যান ব্যাখ্যা করে। 'প্রোগ্রামারটি জাম্পের উচ্চতাটিকে ব্লকের উচ্চতা হিসাবে নির্ধারণ করে এটি সমাধান করার চেষ্টা করেছিল যা মূলত' সর্বনিম্ন 'ছিল। প্রতিক্রিয়া হিসাবে, রোবটটি একটি দীর্ঘ চর্মসার পা তৈরি করেছিল যা এটি বাতাসের মধ্যে এক ধরণের রোবোট ক্যান-ক্যানের মাধ্যমে উচ্চতর লাথি মারতে পারে ''
৩. পরীক্ষাটি লুকান এবং আপনি এটি ব্যর্থ করতে পারবেন না।
'একটি অ্যালগরিদম ছিল যা সংখ্যার একটি তালিকা বাছাই করার কথা ছিল। পরিবর্তে, তালিকাটি মুছে ফেলা শিখেছিল, যাতে এটি আর প্রযুক্তিগতভাবে সাজানো না থাকে, 'শেন সম্পর্কিত।
৪. গণিত ত্রুটিগুলি জেট জ্বালানীকে পরাজিত করেছে।
'একটি অনুকরণে, রোবটরা শিখেছিল যে গণিতে ছোট গোলাকার ত্রুটিগুলি গণনা করা বাহিনী বলতে বোঝায় যে তারা গতিতে সামান্য পরিমাণে অতিরিক্ত শক্তি পেয়েছিল। তারা দ্রুত মোচড়তে শিখেছে, প্রচুর পরিমাণে নিখরচায় শক্তি তৈরি করেছে যা তারা ব্যবহার করতে পারে, 'শেন বলেছেন। আরে, এটাই প্রতারণা!
৫. একটি অজেয় (যদি ধ্বংসাত্মক) টিক-টাক-টো কৌশল।
একবার 'প্রোগ্রামারদের একদল অ্যালগরিদম তৈরি করেছিল যা টিক-ট্যাক-টো অনন্তর বড় বোর্ডে একে অপরের বিরুদ্ধে দূর থেকে খেলতে পারে,' শেন নোটগুলি। 'একজন প্রোগ্রামার তাদের অ্যালগোরিদমের কৌশলটি ডিজাইনের পরিবর্তে এর নিজস্ব পদ্ধতির বিকাশ ঘটুক। আশ্চর্যজনকভাবে, অ্যালগরিদম হঠাৎ করে তার সমস্ত গেম জিতে শুরু করে। এটি প্রমাণিত হয়েছিল যে অ্যালগরিদমের কৌশলটি খুব সরানো ছিল খুব দূরে, যাতে যখন তার প্রতিপক্ষের কম্পিউটারটি নতুনভাবে বিস্তৃত বোর্ডকে অনুকরণ করার চেষ্টা করে, বিশাল গেমবোর্ডটি স্মৃতি এবং ক্র্যাশটি সঞ্চারিত করে, হারানো থেকে খেলা
No. কোনও কার্যকর গেম বিচ্যুত হয় না।
'কম্পিউটার গেম-প্লেয়িং অ্যালগরিদমগুলি ম্যাট্রিক্স গ্লিটচের ধরণগুলি আবিষ্কার করতে প্রকৃতপক্ষে ভাল যা মানুষ সাধারণত গতিতে দৌড়ানোর জন্য ব্যবহার করতে শেখে। পুরানো আতারি গেম কিউ * বার্ট খেলছে এমন একটি অ্যালগরিদম একটি পূর্ব-অজানা বাগটি আবিষ্কার করেছিল যেখানে এটি একটি স্তরের শেষে খুব নির্দিষ্ট সিরিজের চালনগুলি সম্পাদন করতে পারে এবং পরবর্তী স্তরে যাওয়ার পরিবর্তে সমস্ত প্ল্যাটফর্মগুলি দ্রুত ঝলকানো শুরু করে এবং প্লেয়ার বিপুল সংখ্যক পয়েন্ট জমা করতে শুরু করবে, 'শেন বলেছেন।
Sorry. দুঃখিত, পাইলট
এই উদাহরণটি লীলাবদ্ধতার স্কেলে উচ্চতর: 'একটি অ্যালগরিদম ছিল যে বিমানের ক্যারিয়ারে বিমানের অবতরণে কোনও ন্যূনতম বল প্রয়োগ করতে হবে তা অনুমান করার কথা ছিল। পরিবর্তে, এটি আবিষ্কার করেছে যে এটি যদি একটি 'বিশাল' শক্তি প্রয়োগ করে তবে এটি প্রোগ্রামটির স্মৃতিটিকে উপচে ফেলবে এবং পরিবর্তে এটি একটি খুব 'ছোট' শক্তি হিসাবে নিবন্ধিত হবে। পাইলট মারা যাবে তবে, আরে, নিখুঁত স্কোর। '
তাহলে কি আমরা সবাই বিনষ্ট হই?
এই সমস্তগুলি একত্রিত করে পরামর্শ দেয় যে রোবটগুলি কীভাবে তাদের জন্য আমরা সেট করি সেই সমস্যাগুলি কীভাবে সমাধান করবে, এমনকি তারা কীভাবে সমস্যাগুলি সংজ্ঞায়িত করবে তা অনুমান করার জন্য মানুষেরা বেশ কৌতুকপূর্ণ। সুতরাং, এর অর্থ কী শেন দুর্ঘটনাক্রমে হোমসিডাল এআই তৈরির বিষয়ে উদ্বিগ্ন is কস্তুরী যেমন ওভারলর্ডস? সত্যই নয়, তবে তা নয় কারণ তিনি নিশ্চিত যে মানব প্রোগ্রামাররা তাদের তৈরি রোবটগুলির সত্যই দুর্দান্ত হ্যান্ডেল রয়েছে। পরিবর্তে, তিনি আমাদের বাঁচাতে রোবোটের অলসতায় ব্যাংকিং করছেন।
'প্রোগ্রামার হিসাবে আমাদের খুব সতর্কতা অবলম্বন করতে হবে যে আমাদের অ্যালগরিদমগুলি যে সমস্যাগুলি সমাধান করার জন্য আমরা তাদের বোঝাতে চেয়েছিলাম সেগুলি শর্টকাট শোষণ করে নয় solving কোনও প্রদত্ত সমস্যা সমাধানের দিকে আরও যদি সহজতর পথ থাকে তবে মেশিন লার্নিং সম্ভবত এটি খুঁজে পাবে, 'তিনি পর্যবেক্ষণ করেন। 'ভাগ্যক্রমে আমাদের জন্য,' সমস্ত মানুষকে হত্যা 'সত্যই কঠিন। 'যদি অবিশ্বাস্যভাবে সুস্বাদু কেক বেক করুন' সমস্যাটিও সমাধান করে এবং 'সমস্ত মানুষকে মেরে ফেলার' চেয়ে সহজ হয় তবে মেশিন লার্নিং কেকের সাহায্যে চলে যাবে।
