নতুনআপনি এখন ফক্স নিউজ নিবন্ধ শুনতে পারেন!
একজন ব্যক্তি যিনি ডায়েটরি পরামর্শের জন্য চ্যাটজিপিটি ব্যবহার করেছিলেন তিনি নিজেই বিষাক্ত হয়ে পড়েছিলেন – এবং হাসপাতালে আহত হন।
অভ্যন্তরীণ মেডিসিনের অ্যানালস-এ এই সপ্তাহে প্রকাশিত একটি কেস স্টাডিতে বলা হয়েছে, স্বাস্থ্যের কারণে তার ডায়েট থেকে টেবিল লবণকে তার ডায়েট থেকে টেবিল লবণ নির্মূল করার চেষ্টা করছেন, তিনি বৃহত্তর ভাষার মডেল (এলএলএম) ব্যবহার করেছিলেন।
যখন চ্যাটজিপিটি সোডিয়াম ব্রোমাইডের জন্য সোডিয়াম ক্লোরাইড (টেবিল সল্ট) অদলবদল করার পরামর্শ দিয়েছিল, তখন লোকটি তিন মাসের জন্য প্রতিস্থাপন করেছে-যদিও, জার্নাল নিবন্ধটি উল্লেখ করেছে, সুপারিশটি সম্ভবত এটি অন্যান্য উদ্দেশ্যে যেমন পরিষ্কার করার জন্য উল্লেখ করেছিল।
বিশেষজ্ঞরা দীর্ঘমেয়াদী ব্যবহারের জন্য সাবধানতার সাথে অনুরোধ করার সাথে সাথে চ্যাটজিপ্ট নিঃশব্দে আপনার মস্তিষ্ককে পুনর্নির্মাণ করতে পারে
সোডিয়াম ব্রোমাইড একটি রাসায়নিক যৌগ যা লবণের সাথে সাদৃশ্যপূর্ণ তবে এটি মানুষের ব্যবহারের জন্য বিষাক্ত।
এটি একসময় অ্যান্টিকনভালস্যান্ট এবং শোষক হিসাবে ব্যবহৃত হয়েছিল, তবে আজ প্রাথমিকভাবে স্বাস্থ্য সম্পর্কিত জাতীয় ইনস্টিটিউট অনুসারে পরিষ্কার, উত্পাদন এবং কৃষিক্ষেত্রের জন্য ব্যবহৃত হয়।
একজন ব্যক্তি যিনি ডায়েটরি পরামর্শের জন্য চ্যাটজিপিটি ব্যবহার করেছিলেন তিনি নিজেই বিষাক্ত হয়ে পড়েছিলেন – এবং হাসপাতালে আহত হন। (কার্ট “সাইবারগুই” নটসন)
লোকটি যখন হাসপাতালে পৌঁছেছিল, তখন তিনি ক্লান্তি, অনিদ্রা, দুর্বল সমন্বয়, মুখের ব্রণ, চেরি অ্যাঞ্জিওমাস (ত্বকে লাল ধাক্কা) এবং অতিরিক্ত তৃষ্ণার্ত-ব্রোমিজমের সমস্ত লক্ষণ, সোডিয়াম ব্রোমাইডের দীর্ঘমেয়াদী এক্সপোজারের কারণে সৃষ্ট শর্তের কথা জানিয়েছেন।
লোকটি প্যারানোয়ার লক্ষণও দেখিয়েছিল, কেস স্টাডিতে উল্লেখ করা হয়েছে, কারণ তিনি দাবি করেছিলেন যে তার প্রতিবেশী তাকে বিষ দেওয়ার চেষ্টা করছে।
কৃত্রিম বুদ্ধিমত্তা ইউসিএলএ স্টাডিতে চিকিত্সকদের তুলনায় 25% বৃহত্তর নির্ভুলতার সাথে ক্যান্সার সনাক্ত করে
তাঁর শ্রুতি ও ভিজ্যুয়াল হ্যালুসিনেশন রয়েছে বলেও দেখা গিয়েছিল এবং শেষ পর্যন্ত পালানোর চেষ্টা করার পরে একটি মনোরোগ বিশেষজ্ঞের উপর রাখা হয়েছিল।
লোকটিকে অন্তঃসত্ত্বা তরল এবং ইলেক্ট্রোলাইটগুলি দিয়ে চিকিত্সা করা হয়েছিল এবং অ্যান্টি-সাইকোটিক ওষুধও দেওয়া হয়েছিল। তিন সপ্তাহ পর্যবেক্ষণের পরে তাকে হাসপাতাল থেকে মুক্তি দেওয়া হয়েছিল।
গবেষকরা কেস স্টাডিতে লিখেছেন, “এই মামলাটি কীভাবে কৃত্রিম বুদ্ধিমত্তার (এআই) ব্যবহার সম্ভাব্যভাবে প্রতিরোধযোগ্য প্রতিকূল স্বাস্থ্যের ফলাফলের বিকাশে অবদান রাখতে পারে তাও তুলে ধরে।”
“এগুলি ভাষার পূর্বাভাস সরঞ্জাম – এগুলির সাধারণ জ্ঞানের অভাব রয়েছে এবং যদি মানব ব্যবহারকারী তাদের নিজস্ব সাধারণ জ্ঞান প্রয়োগ না করে তবে ভয়ানক ফলাফলের জন্ম দেবে।”
“দুর্ভাগ্যক্রমে, আমাদের তার চ্যাটজিপ্ট কথোপকথনের লগটিতে অ্যাক্সেস নেই এবং আমরা যে আউটপুটটি পেয়েছিলেন তা ঠিক কী তা নিশ্চিত করেই জানতে পারব না, যেহেতু স্বতন্ত্র প্রতিক্রিয়াগুলি অনন্য এবং পূর্ববর্তী ইনপুটগুলি থেকে তৈরি” “
তারা “অত্যন্ত অসম্ভব” যে কোনও রোগীর সোডিয়াম ক্লোরাইডের বিকল্প খুঁজছেন এমন রোগীর সাথে কথা বলার সময় কোনও মানব চিকিত্সক সোডিয়াম ব্রোমাইডের কথা উল্লেখ করেছিলেন, তারা উল্লেখ করেছিলেন।
নতুন এআই সরঞ্জামটি স্বাস্থ্যের ফলাফলগুলির পূর্বাভাস দেওয়ার জন্য ফটোগুলি বিশ্লেষণ করে
গবেষকরা উপসংহারে বলেছিলেন, “এটি বিবেচনা করা গুরুত্বপূর্ণ যে চ্যাটজিপিটি এবং অন্যান্য এআই সিস্টেমগুলি বৈজ্ঞানিক অসম্পূর্ণতা তৈরি করতে পারে, ফলাফলগুলি সমালোচনামূলকভাবে আলোচনা করার এবং শেষ পর্যন্ত ভুল তথ্য ছড়িয়ে দেওয়ার দিকে বাড়িয়ে তুলতে পারে,” গবেষকরা উপসংহারে বলেছিলেন।
সান ফ্রান্সিসকো বায়োটেকনোলজি সংস্থা সেন্টিভ্যাক্সের সিইও ডাঃ জ্যাকব গ্লানভিল জোর দিয়েছিলেন যে লোকেরা ডাক্তারের বিকল্প হিসাবে চ্যাটজিপিটি ব্যবহার করা উচিত নয়।
যখন চ্যাটজিপিটি সোডিয়াম ব্রোমাইডের জন্য সোডিয়াম ক্লোরাইড (টেবিল সল্ট) অদলবদল করার পরামর্শ দেয়, তখন চিত্রিত নয়, তিন মাসের জন্য প্রতিস্থাপন করা হয়েছিল। (ইস্টক)
কেস স্টাডিতে জড়িত না থাকা গ্লানভিল ফক্স নিউজ ডিজিটালকে বলেছেন, “এগুলি ভাষার পূর্বাভাসের সরঞ্জামগুলি – এগুলির সাধারণ জ্ঞানের অভাব রয়েছে এবং যদি এই সিস্টেমগুলি জিজ্ঞাসা করা উচিত এবং তাদের সুপারিশগুলি বিবেচনা করা উচিত কিনা তা সিদ্ধান্ত নেওয়ার সময় মানব ব্যবহারকারী তাদের নিজস্ব জ্ঞান প্রয়োগ না করে ভয়ঙ্কর ফলাফলের জন্ম দেয়।”
ফক্স নিউজ অ্যাপ্লিকেশন পেতে এখানে ক্লিক করুন
“এটি সমস্যার একটি সর্বোত্তম উদাহরণ: সিস্টেমটি মূলত গিয়েছিল, ‘আপনি একটি লবণের বিকল্প চান? সোডিয়াম ব্রোমাইড প্রায়শই রসায়ন প্রতিক্রিয়াগুলিতে সোডিয়াম ক্লোরাইডের প্রতিস্থাপন হিসাবে তালিকাভুক্ত করা হয়, সুতরাং এটি এখানে সর্বোচ্চ স্কোরিং প্রতিস্থাপন।”
ডালাসে অবস্থিত কৃত্রিম বুদ্ধিমত্তার বোর্ড-প্রত্যয়িত জরুরী মেডিসিন চিকিত্সক এবং জাতীয় স্পিকার ড। হার্ভে কাস্ত্রো নিশ্চিত করেছেন যে এআই একটি সরঞ্জাম, ডাক্তার নয়।
গবেষকরা বলেছেন, সোডিয়াম ক্লোরাইডের বিকল্প খুঁজছেন এমন একজন রোগীর সাথে কথা বলার সময় একজন মানব চিকিত্সক সোডিয়াম ব্রোমাইডের কথা উল্লেখ করতেন, এটি “অত্যন্ত অসম্ভব”। (ইস্টক)
তিনি ফক্স নিউজ ডিজিটালকে বলেছেন, “বৃহত্তর ভাষার মডেলগুলি ফ্যাক্ট-চেকিংয়ের মাধ্যমে নয়, শব্দের সর্বাধিক পরিসংখ্যানগতভাবে সম্ভাব্য ক্রম পূর্বাভাস দিয়ে পাঠ্য তৈরি করে।”
কাস্ত্রো আরও বলেছিলেন, “চ্যাটজিপ্টের ব্রোমাইড ব্লান্ডার দেখায় যে প্রসঙ্গটি কেন স্বাস্থ্য পরামর্শে রাজা।” “এআই ওপেনাইয়ের অস্বীকৃতিগুলির সাথে একত্রিত হয়ে পেশাদার চিকিত্সার বিচারের প্রতিস্থাপন নয়।”
কাস্ত্রোও সতর্ক করেছিলেন যে যখন চিকিত্সা সম্পর্কিত তথ্য পেতে এলএলএম ব্যবহার করার কথা আসে তখন একটি “নিয়ন্ত্রণ ব্যবধান” থাকে।
“আমাদের শর্তাদি বলে যে চ্যাটজিপিটি কোনও স্বাস্থ্যের অবস্থার চিকিত্সায় ব্যবহারের উদ্দেশ্যে নয় এবং এটি পেশাদার পরামর্শের বিকল্প নয়।”
“ব্রোমাইডে এফডিএ নিষেধাজ্ঞাগুলি এআই পরামর্শ পর্যন্ত প্রসারিত হয় না – গ্লোবাল হেলথ এআই তদারকি অপরিজ্ঞাত রয়েছে,” তিনি বলেছিলেন।
এলএলএমগুলিতে ডেটা পক্ষপাত এবং যাচাইকরণের অভাব থাকতে পারে এমন ঝুঁকিও রয়েছে, যা হ্যালুসিনেটেড তথ্যের দিকে পরিচালিত করে।
আমাদের স্বাস্থ্য নিউজলেটারের জন্য সাইন আপ করতে এখানে ক্লিক করুন
“প্রশিক্ষণের ডেটা যদি পুরানো, বিরল বা রাসায়নিকভাবে কেন্দ্রীভূত রেফারেন্স অন্তর্ভুক্ত করে তবে মডেল তাদের অনুপযুক্ত প্রসঙ্গে যেমন লবণের বিকল্প হিসাবে ব্রোমাইড হিসাবে পৃষ্ঠত্যাগ করতে পারে,” কাস্ত্রো উল্লেখ করেছিলেন।
“এছাড়াও, বর্তমান এলএলএমগুলিতে স্পষ্টভাবে সংহত না হলে আপ-টু-ডেট মেডিকেল ডাটাবেসগুলির বিরুদ্ধে অন্তর্নির্মিত ক্রস-চেকিং নেই” “
একজন বিশেষজ্ঞ সতর্ক করেছিলেন যে চিকিত্সা সম্পর্কিত তথ্য পাওয়ার জন্য বড় ভাষার মডেলগুলি ব্যবহার করার ক্ষেত্রে একটি “নিয়ন্ত্রণের ব্যবধান” রয়েছে। (জাকুব পোরজিকি/নুরফোটো)
এর মতো মামলাগুলি রোধ করতে কাস্ত্রো এলএলএমগুলির জন্য আরও সুরক্ষার জন্য আহ্বান জানিয়েছিলেন, যেমন ইন্টিগ্রেটেড মেডিকেল নলেজ ঘাঁটি, স্বয়ংক্রিয় ঝুঁকি পতাকা, প্রাসঙ্গিক প্রম্পটিং এবং মানব এবং এআই তদারকির সংমিশ্রণ।
বিশেষজ্ঞ আরও যোগ করেছেন, “লক্ষ্যবস্তু সুরক্ষার সাথে এলএলএম ঝুঁকিপূর্ণ জেনারালিস্টদের থেকে নিরাপদ, বিশেষ সরঞ্জামগুলিতে বিকশিত হতে পারে; তবে, নিয়ন্ত্রণ ও তদারকি ছাড়াই, এর মতো বিরল ক্ষেত্রে সম্ভবত পুনরাবৃত্তি হবে।”
আরও স্বাস্থ্য নিবন্ধগুলির জন্য, দেখুন www.foxnews.com/health
চ্যাটজিপিটি-র সান ফ্রান্সিসকো ভিত্তিক নির্মাতা ওপেনই ফক্স নিউজ ডিজিটালকে নিম্নলিখিত বিবৃতি সরবরাহ করেছিলেন।
“আমাদের শর্তাবলী বলছে যে চ্যাটজিপিটি কোনও স্বাস্থ্য অবস্থার চিকিত্সায় ব্যবহারের উদ্দেশ্যে নয়, এবং এটি পেশাদার পরামর্শের বিকল্প নয়। আমাদের সুরক্ষা দল রয়েছে ঝুঁকি হ্রাস করার জন্য কাজ করছে এবং আমাদের এআই সিস্টেমগুলিকে পেশাদার দিকনির্দেশনা চাইতে উত্সাহিত করার জন্য প্রশিক্ষণ দিয়েছে।”
মেলিসা রুডি সিনিয়র স্বাস্থ্য সম্পাদক এবং ফক্স নিউজ ডিজিটালের লাইফস্টাইল দলের সদস্য। গল্পের টিপস মেলিসা.রুডি@fox.com এ প্রেরণ করা যেতে পারে।
