কৃত্রিম বুদ্ধিমত্তা বা এআই এখন আর শুধু প্রশ্নের উত্তর দেওয়া, ছবি তৈরি কিংবা লেখালেখির প্রযুক্তি নয়। দ্রুত উন্নত হচ্ছে এর কোড লেখা, তথ্য বিশ্লেষণ, কম্পিউটার ব্যবহার, গবেষণা এবং বিভিন্ন জটিল কাজ সম্পাদনের সক্ষমতা। এই অগ্রগতি যেমন চিকিৎসা, বিজ্ঞান ও শিল্পে নতুন সম্ভাবনার দ্বার খুলছে, তেমনি তৈরি করছে একটি গুরুত্বপূর্ণ প্রশ্ন-কোনো একপর্যায়ে অত্যন্ত শক্তিশালী এআই কি মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে? আর যদি যায়, তাহলে সেটি কি মানবজাতির অস্তিত্বের জন্য হুমকি হয়ে উঠতে পারে?
এ প্রশ্নের উত্তর এখনো ‘হ্যাঁ’ বা ‘না’ দিয়ে নিশ্চিতভাবে দেওয়া যায় না। তবে বিশ্বের শীর্ষস্থানীয় এআই গবেষকদের একটি অংশ মনে করেন, ভবিষ্যতের অত্যন্ত সক্ষম এআইয়ের সম্ভাব্য ঝুঁকি এখন থেকেই গুরুত্বের সঙ্গে বিবেচনা করা প্রয়োজন। ২০২৫ সালের International AI Safety Report-এ ‘loss of control’ বা নিয়ন্ত্রণ হারানোর সম্ভাবনাকে ভবিষ্যৎ এআই ঝুঁকির একটি গুরুত্বপূর্ণ ক্ষেত্র হিসেবে আলোচনা করা হয়েছে। একই প্রতিবেদনে বলা হয়েছে, বর্তমান সাধারণ উদ্দেশ্যের এআই সিস্টেমগুলোর মানব নিয়ন্ত্রণকে অর্থপূর্ণভাবে দুর্বল করার সক্ষমতা নেই। তবে ভবিষ্যৎ সিস্টেমের সক্ষমতা অনেক বাড়লে পরিস্থিতি ভিন্ন হতে পারে।
‘এআই মানুষকে মেরে ফেলবে’-বিষয়টি আসলে কী?
এআই নিয়ে আলোচনায় ‘মানবজাতির বিলুপ্তি’ কথাটি অনেক সময় সিনেমার মতো করে উপস্থাপন করা হয় একটি রোবট বা যন্ত্র মানুষের বিরুদ্ধে যুদ্ধ শুরু করল। বাস্তব গবেষণায় আলোচিত ঝুঁকির ধারণাটি এত সরল নয়।
গবেষকেরা যে পরিস্থিতি নিয়ে আলোচনা করেন, সেটি হলো এমন একটি ভবিষ্যৎ এআই ব্যবস্থা, যার সক্ষমতা মানুষের তুলনায় নির্দিষ্ট গুরুত্বপূর্ণ ক্ষেত্রে অনেক বেশি এবং যাকে পর্যাপ্তভাবে নিয়ন্ত্রণ, পর্যবেক্ষণ বা বন্ধ করা কঠিন হয়ে গেছে।
International AI Safety Report অনুযায়ী, ‘loss of control’ বলতে এমন কাল্পনিক ভবিষ্যৎ পরিস্থিতিকে বোঝানো হয়, যেখানে এক বা একাধিক সাধারণ উদ্দেশ্যের এআই সিস্টেম মানুষের নিয়ন্ত্রণের বাইরে চলে যায় এবং সেই নিয়ন্ত্রণ পুনরুদ্ধারের কোনো স্পষ্ট পথ থাকে না। এই ধরনের পরিস্থিতির সম্ভাব্য ফলাফল নিয়ে বিশেষজ্ঞদের মধ্যে বড় ধরনের মতপার্থক্য রয়েছে। কেউ এটিকে অত্যন্ত অসম্ভাব্য মনে করেন, আবার কেউ সম্ভাব্য গুরুতর ঝুঁকি হিসেবে দেখেন।
অর্থাৎ, এটি কোনো প্রতিষ্ঠিত ভবিষ্যদ্বাণী নয়। বরং অত্যন্ত শক্তিশালী প্রযুক্তি তৈরি হলে কী ধরনের ঝুঁকি দেখা দিতে পারে, তার একটি সম্ভাব্য চিত্র।
আরো পড়ুন: সড়ক দুর্ঘটনা রোধে প্রযুক্তির সর্বোচ্চ ব্যবহার জরুরি
প্রথম ঝুঁকি-মানুষের লক্ষ্য আর এআইয়ের লক্ষ্য এক না হওয়া
এআই নিরাপত্তা গবেষণায় একটি গুরুত্বপূর্ণ ধারণা হলো alignment problem। সহজভাবে বললে, মানুষ এআইকে যে উদ্দেশ্যে তৈরি করেছে, এআইয়ের আচরণ যেন সেই উদ্দেশ্য ও মানবিক মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণ থাকে-এটাই লক্ষ্য।
ধরা যাক, ভবিষ্যতে একটি অত্যন্ত শক্তিশালী এআইকে কোনো জটিল লক্ষ্য পূরণের দায়িত্ব দেওয়া হলো। এআই যদি সেই লক্ষ্য পূরণকে সর্বোচ্চ অগ্রাধিকার দেয়, কিন্তু মানুষের নিরাপত্তা বা অন্য গুরুত্বপূর্ণ মূল্যবোধকে সঠিকভাবে বিবেচনা না করে, তাহলে অনাকাঙ্ক্ষিত ফল তৈরি হতে পারে।
সমস্যাটি আরও জটিল হতে পারে যদি এআই এমন সিদ্ধান্ত নিতে সক্ষম হয়, যা মানুষ সহজে বুঝতে বা আগে থেকে অনুমান করতে পারে না।
এখানে মূল বিষয় হলো-এআইকে মানুষের মতো ‘রাগ’ বা ‘ঘৃণা’ করতে হবে না। মানুষের জন্য ক্ষতিকর ফল তৈরির জন্য তার মধ্যে মানুষের মতো আবেগ থাকা জরুরি নয়। ভুলভাবে নির্ধারিত লক্ষ্য, অপর্যাপ্ত নিরাপত্তা ব্যবস্থা কিংবা ভুল পরিবেশে অতিরিক্ত ক্ষমতা দেওয়াই যথেষ্ট হতে পারে।
দ্বিতীয় ঝুঁকি-এআই যদি নিজের নিয়ন্ত্রণ কমানোর চেষ্টা করে
ভবিষ্যতের অত্যন্ত সক্ষম এআই নিয়ে আলোচনায় আরেকটি বিষয় হলো control problem।
কোনো এআইকে যদি এমন ক্ষমতা দেওয়া হয়, যার মাধ্যমে সে কম্পিউটার ব্যবহার, সফটওয়্যার পরিবর্তন, বিভিন্ন ডিজিটাল সিস্টেমে কাজ করা কিংবা অন্য এআই সিস্টেমের সঙ্গে যোগাযোগ করতে পারে, তাহলে তাকে থামানো কতটা সহজ থাকবে-এটি গুরুত্বপূর্ণ প্রশ্ন।
২০২৫ সালের আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদনে বলা হয়েছে, ভবিষ্যৎ এআইয়ের ক্ষেত্রে কম্পিউটার স্বয়ংক্রিয়ভাবে ব্যবহার, প্রোগ্রামিং, অননুমোদিত প্রবেশের চেষ্টা এবং মানুষের নজরদারি এড়িয়ে চলার মতো সক্ষমতার সমন্বয় নিয়ন্ত্রণের ঝুঁকি বাড়াতে পারে। তবে প্রতিবেদনে স্পষ্টভাবে বলা হয়েছে, বর্তমান এআই সিস্টেম এসব সক্ষমতার এমন সমন্বয় অর্জন করেনি, যা অর্থপূর্ণভাবে মানব নিয়ন্ত্রণকে দুর্বল করতে পারে।
তৃতীয় ঝুঁকি-সাইবার জগতের নিয়ন্ত্রণ
ভবিষ্যতে এআই যদি মানুষের তুলনায় দ্রুত সফটওয়্যার তৈরি, দুর্বলতা শনাক্ত এবং বিভিন্ন ডিজিটাল সিস্টেম পরিচালনা করতে পারে, তাহলে সাইবার নিরাপত্তার ঝুঁকি বাড়তে পারে।
একটি শক্তিশালী এআই কোনো প্রতিষ্ঠানের কম্পিউটার ব্যবস্থার দুর্বলতা শনাক্ত করে ফেললে সেটি নিজে থেকেই বড় ধরনের ক্ষতি করতে পারে এমন পরিস্থিতি নিয়ে গবেষণা হচ্ছে।
তবে এখানে আরেকটি বাস্তব ঝুঁকি রয়েছে। এআই নিজে স্বতন্ত্রভাবে বিপজ্জনক না হলেও মানুষ যদি সেটিকে অপরাধ, সাইবার আক্রমণ বা অন্য ক্ষতিকর কাজে ব্যবহার করে, তাহলে ক্ষতির মাত্রা বাড়তে পারে।
অর্থাৎ ভবিষ্যৎ এআই ঝুঁকি শুধু ‘এআই বনাম মানুষ’ নয়; বরং মানুষ ও এআইয়ের সমন্বয়ে তৈরি নতুন ধরনের ক্ষমতা কীভাবে ব্যবহার হবে, সেটিও গুরুত্বপূর্ণ।
আরো পড়ুন: চিকিৎসাবিজ্ঞানে প্রযুক্তির অভাবনীয় সাফল্য, বদলে যাচ্ছে চিকিৎসার চিত্র
চতুর্থ ঝুঁকি-গুরুত্বপূর্ণ অবকাঠামোয় অতিরিক্ত নির্ভরতা
বিদ্যুৎ, যোগাযোগ, ব্যাংকিং, স্বাস্থ্যসেবা, পরিবহন ও অন্যান্য গুরুত্বপূর্ণ অবকাঠামোতে এআইয়ের ব্যবহার বাড়তে পারে।
এআই যদি এসব ব্যবস্থার সিদ্ধান্ত গ্রহণে বড় ভূমিকা নেয়, তাহলে একটি ভুল মডেল, ত্রুটিপূর্ণ তথ্য, সফটওয়্যার সমস্যা কিংবা সমন্বিত সাইবার আক্রমণের প্রভাবও বড় হতে পারে।
এ কারণে যুক্তরাষ্ট্রের ন্যাশনাল ইনস্টিটিউট অব স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি বা NIST এআইয়ের ঝুঁকি শনাক্ত, মূল্যায়ন ও ব্যবস্থাপনার জন্য একটি বিশেষ কাঠামো তৈরি করেছে। NIST-এর AI Risk Management Framework-এর উদ্দেশ্য হলো এআই ব্যবস্থার ঝুঁকি বিবেচনায় নিয়ে প্রযুক্তির নকশা, উন্নয়ন, ব্যবহার ও মূল্যায়নকে আরও নির্ভরযোগ্য করা।
২০২৬ সালেও NIST গুরুত্বপূর্ণ অবকাঠামোতে বিশ্বস্ত এআই ব্যবহারের জন্য নতুন কাঠামো তৈরির কাজ এগিয়ে নিচ্ছে।
পঞ্চম ঝুঁকি-ভুয়া তথ্যের বিস্তার
মানবজাতির অস্তিত্ব বিলীন হওয়ার সবচেয়ে চরম সম্ভাবনার তুলনায় বর্তমানে অনেক বেশি বাস্তব সমস্যা হলো এআই দিয়ে ভুয়া তথ্য তৈরি ও ছড়িয়ে দেওয়া।
এআই দিয়ে এখন অল্প সময়ে বিপুল পরিমাণ লেখা, ছবি, অডিও ও ভিডিও তৈরি করা সম্ভব। ফলে একজন ব্যক্তি বা সংগঠন খুব দ্রুত বাস্তবসম্মত মিথ্যা তথ্য ছড়িয়ে দিতে পারে।
এতে মানুষের মধ্যে বিভ্রান্তি তৈরি হতে পারে, প্রতারণা বাড়তে পারে এবং সামাজিক আস্থার ওপর চাপ সৃষ্টি হতে পারে।
NIST-এর জেনারেটিভ এআই ঝুঁকি ব্যবস্থাপনা কাঠামোতে এআই ব্যবস্থার বিভিন্ন সম্ভাব্য ঝুঁকি শনাক্ত ও ব্যবস্থাপনার জন্য বিস্তৃত নির্দেশনা দেওয়া হয়েছে। প্রতিষ্ঠানটি জেনারেটিভ এআইয়ের জন্য ১৩টি ঝুঁকির ক্ষেত্র এবং ৪০০টির বেশি সম্ভাব্য ব্যবস্থাপনা পদক্ষেপের কথা উল্লেখ করেছে।
ষষ্ঠ ঝুঁকি-স্বয়ংক্রিয় অস্ত্র
এআইয়ের সবচেয়ে সংবেদনশীল ব্যবহারগুলোর একটি হলো সামরিক ক্ষেত্রে এর প্রয়োগ।
যদি কোনো অস্ত্রব্যবস্থা লক্ষ্য শনাক্ত, নির্বাচন এবং আক্রমণের সিদ্ধান্তে এআইয়ের ওপর অতিরিক্ত নির্ভরশীল হয়ে পড়ে, তাহলে ভুল শনাক্তকরণ বা ত্রুটিপূর্ণ সিদ্ধান্তের পরিণতি ভয়াবহ হতে পারে।
এখানে মানব নিয়ন্ত্রণ কতটা থাকবে, কোন পরিস্থিতিতে অস্ত্র ব্যবহার করা হবে এবং কোনো ভুল হলে কে দায়ী হবে এসব প্রশ্ন গুরুত্বপূর্ণ।
এআই নিজে মানবজাতিকে নিশ্চিহ্ন করবে এমন ভবিষ্যৎ পরিস্থিতির চেয়ে বাস্তব দুনিয়ায় মানুষের হাতে এআইভিত্তিক সামরিক সক্ষমতার অপব্যবহার বা ভুল ব্যবহারের ঝুঁকি অনেক বেশি সরাসরি।
তাহলে এআই কি নিজে নিজে মানুষকে নিশ্চিহ্ন করতে পারবে?
বর্তমান প্রযুক্তির ক্ষেত্রে এর উত্তর না।
২০২৫ সালের আন্তর্জাতিক এআই নিরাপত্তা প্রতিবেদনে স্পষ্ট বলা হয়েছে, বর্তমান সাধারণ উদ্দেশ্যের এআই সিস্টেমগুলোর মানব নিয়ন্ত্রণকে অর্থপূর্ণভাবে দুর্বল করার প্রয়োজনীয় সক্ষমতা নেই। অর্থাৎ আজকের চ্যাটবট বা এআই সহকারীকে এমন কোনো স্বয়ংসম্পূর্ণ সত্তা হিসেবে দেখা ঠিক নয়, যে নিজে থেকে বিশ্বব্যাপী ব্যবস্থা দখল করে মানবজাতিকে নিশ্চিহ্ন করতে পারবে।
তবে গবেষণার প্রশ্ন হলোভবিষ্যতে এআইয়ের সক্ষমতা কতটা বাড়তে পারে এবং সেই সক্ষমতার সঙ্গে কী ধরনের নিরাপত্তা ব্যবস্থা থাকবে?
এই প্রশ্নের উত্তর এখনো অনিশ্চিত।
আরো পড়ুন: আকাশ প্রতিরক্ষায় বিশ্ব প্রযুক্তির বিপ্লব
কেন বিজ্ঞানীরা বিষয়টি গুরুত্ব দিচ্ছেন?
২০২৩ সালে Center for AI Safety একটি বিবৃতি প্রকাশ করে, যেখানে বলা হয় এআই থেকে মানবজাতির বিলুপ্তির ঝুঁকি কমানোকে মহামারি ও পারমাণবিক যুদ্ধের মতো বৈশ্বিক ঝুঁকির পাশাপাশি অগ্রাধিকার দেওয়া উচিত। বিবৃতিতে কয়েকশ এআই গবেষক ও প্রযুক্তি নেতাসহ বিভিন্ন ক্ষেত্রের ব্যক্তির সমর্থন ছিল।
এই বিবৃতির অর্থ এই নয় যে স্বাক্ষরকারীরা মনে করেন মানবজাতি শিগগিরই এআইয়ের কারণে বিলুপ্ত হবে। বরং তাদের বক্তব্যের মূল বিষয় ছিল সম্ভাব্য ক্ষতির মাত্রা যদি অত্যন্ত বড় হয়, তাহলে ঝুঁকি কমানোর কাজ আগেই শুরু করা উচিত।
অন্যদিকে, এআই নিরাপত্তা গবেষকদের মধ্যেই এই ঝুঁকির সম্ভাবনা কতটা তা নিয়ে মতভেদ রয়েছে। International AI Safety Report বলছে, ভবিষ্যৎ ‘loss of control’ নিয়ে বিশেষজ্ঞদের মতামত ব্যাপকভাবে ভিন্ন।
ঝুঁকি কমানোর উপায় কী?
এআইকে পুরোপুরি বন্ধ করে দেওয়া বাস্তবসম্মত সমাধান হিসেবে দেখা হচ্ছে না। বরং গবেষক ও নীতিনির্ধারকেরা নিরাপদ নকশা, পরীক্ষণ, পর্যবেক্ষণ ও নিয়ন্ত্রণের ওপর গুরুত্ব দিচ্ছেন।
এর মধ্যে রয়েছে
- এআই ব্যবস্থার ক্ষমতা ও সীমাবদ্ধতা নিয়মিত পরীক্ষা করা;
- গুরুত্বপূর্ণ সিদ্ধান্তে মানব পর্যবেক্ষণ রাখা;
- এআইকে প্রয়োজনের অতিরিক্ত সিস্টেম-অ্যাক্সেস না দেওয়া;
- সাইবার নিরাপত্তা শক্তিশালী করা;
- বিপজ্জনক সক্ষমতার পরীক্ষা ও মূল্যায়ন করা;
- ভুল বা অনাকাঙ্ক্ষিত আচরণ শনাক্ত করার ব্যবস্থা রাখা;
- গুরুত্বপূর্ণ অবকাঠামোয় এআই ব্যবহারে অতিরিক্ত নিরাপত্তা স্তর রাখা;
- বিভিন্ন দেশের মধ্যে এআই নিরাপত্তা নিয়ে সহযোগিতা বাড়ানো।
NIST-এর AI Risk Management Framework-ও মূলত এআইয়ের ঝুঁকি চিহ্নিত, মূল্যায়ন ও ব্যবস্থাপনার ওপর জোর দেয়।
এআই মানবজাতিকে নিশ্চিহ্ন করে দেবে এমন কোনো প্রমাণ আজ নেই। একইভাবে ভবিষ্যতে অত্যন্ত উন্নত এআই কখনোই এমন ঝুঁকি তৈরি করতে পারবে না এমন নিশ্চয়তাও বিজ্ঞানীরা দিতে পারছেন না।
সবচেয়ে গুরুত্বপূর্ণ বিষয় হলো, বর্তমান এআইয়ের বাস্তব ঝুঁকি এবং ভবিষ্যৎ অত্যন্ত উন্নত এআইয়ের সম্ভাব্য ঝুঁকি দুটিকে আলাদা করে দেখা।
বর্তমানে ভুয়া তথ্য, সাইবার অপরাধ, গোপনীয়তা, পক্ষপাত, প্রতারণা এবং গুরুত্বপূর্ণ ক্ষেত্রে অতিরিক্ত নির্ভরতার মতো সমস্যা ইতোমধ্যে আলোচনার কেন্দ্রে। আর ভবিষ্যৎ নিয়ে গবেষণায় উঠে আসছে আরও বড় প্রশ্ন এআই যদি এমন পর্যায়ে পৌঁছে যায়, যেখানে মানুষের নিয়ন্ত্রণ তার সক্ষমতার তুলনায় দুর্বল হয়ে পড়ে, তখন কী হবে?
এই প্রশ্নের উত্তর এখনো অজানা। তবে একটি বিষয়ে গবেষক ও প্রযুক্তি প্রতিষ্ঠানগুলোর মধ্যে ক্রমবর্ধমান ঐকমত্য রয়েছে এআই যত শক্তিশালী হবে, তার নিরাপত্তা, পরীক্ষণ ও মানব নিয়ন্ত্রণের ব্যবস্থাও তত শক্তিশালী হতে হবে।
কারণ শেষ পর্যন্ত ঝুঁকিটি শুধু ‘এআই কী করতে পারে’এতে সীমাবদ্ধ নয়। আরও গুরুত্বপূর্ণ প্রশ্ন হলো, মানুষ কতটা ক্ষমতা এআইকে দেবে, কীভাবে সেই ক্ষমতা নিয়ন্ত্রণ করবে এবং প্রযুক্তিটি ভুল হাতে পড়া বা ভুলভাবে ব্যবহৃত হওয়া থেকে কতটা নিরাপদ রাখা যাবে।
