مرکز توسعه تحقیقات بالینی بیمارستان شهید اکبرآبادی

شرکت OpenAI، سازنده چت‌بات محبوب ChatGPT، در اقدامی مهم برای افزایش ایمنی و استفاده مسئولانه از هوش مصنوعی، خط‌مشی‌های استفاده خود را به‌روزرسانی کرد.

بر اساس قوانین جدید، ChatGPT دیگر مجاز به ارائه مشاوره در حوزه‌های تخصصی مانند امور حقوقی و پزشکی نخواهد بود. این شرکت اعلام کرد که هدف از این تغییرات، محافظت از کاربران و تضمین این موضوع است که سیستم‌های هوش مصنوعی برای ارائه راهنمایی‌هایی که نیازمند مجوز و تخصص حرفه‌ای است، مورد استفاده قرار نگیرند.

در بیانیه رسمی OpenAI آمده است: «ما کاربران را برای نوآوری با هوش مصنوعی توانمند می‌سازیم و محصولاتی را می‌سازیم که سودمندی و آزادی را به حداکثر می‌رسانند، ضمن اینکه ایمنی را تضمین می‌کنند.»

به نقل از analyticsindiamag، قانون جدید به صراحت استفاده از خدمات این شرکت را برای «مشاوره تخصصی نیازمند مجوز، مانند مشاوره حقوقی یا پزشکی، بدون دخالت مناسب یک متخصص مجاز» منع می‌کند. این اقدام بخشی از یک چارچوب گسترده‌تر برای مقابله با فعالیت‌های مضر و سوءاستفاده از فناوری هوش مصنوعی است.

علاوه بر ممنوعیت مشاوره تخصصی، OpenAI موضع خود را در برابر انواع سوءاستفاده نیز تقویت کرده است. فعالیت‌هایی مانند تهدید، آزار و اذیت، کمک به توسعه سلاح، انجام معاملات غیرقانونی و ترویج خودآزاری یا خشونت به طور کامل ممنوع شده‌اند.

حفاظت از خردسالان نیز یکی از محورهای اصلی این به‌روزرسانی بوده است. ایجاد یا اشتراک‌گذاری محتوای سوءاستفاده جنسی از کودکان (CSAM)، اغفال آن‌ها یا قرار دادنشان در معرض محتوای مضر به شدت ممنوع است و این شرکت متعهد شده است که موارد بهره‌کشی از کودکان را به «مرکز ملی کودکان گمشده و مورد بهره‌کشی قرار گرفته» گزارش دهد.

OpenAI همچنین استفاده از مدل‌های خود را در حوزه‌های پرخطر و حساس مانند کمپین‌های انتخاباتی، آموزش، مراقبت‌های بهداشتی، امور مالی و اجرای قانون محدود کرده است، مگر اینکه نظارت و بازبینی انسانی در فرآیند وجود داشته باشد.

این شرکت تأکید کرد که نقض این قوانین می‌تواند منجر به محرومیت کاربر از دسترسی به خدمات شود و متعهد شد که به طور منظم قوانین خود را برای تضمین انصاف و ایمنی بازنگری کند.