خطرات و نیمه تاریک هوش مصنوعی را بشناسید

به گزارش خبرگزاری خبرآنلاین، اهمیت هوش مصنوعی مولد، یک موضوع قابل توجه است. شرکت مشاور مدیریت «مک‌کنزی»(McKinsey) تخمین می‌زند که هوش مصنوعی مولد می‌تواند سالانه ۷.۹ تریلیون دلار را به اقتصاد جهانی اضافه کند.

ایسنا در گزارشی مشکلات اصلی هوش مصنوعی مولد بیندازیم و چند ایده را در مورد چگونگی غلبه کردن بر آنها بررسی کرده است.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

۱. دقت

همه ما درباره مشکل توهم ChatGPT شنیده‌ایم. مدل‌های زبانی بزرگ برای ارائه دادن پاسخ‌های احتمالی طراحی شده‌اند که از داده‌های آموزشی می‌گیرند و می‌توانند کمی بیش از اندازه نسبت به ارائه دادن پاسخ مشتاق باشند. این موضوع مشخص شده است که مدل‌های زبانی بزرگ به ‌جای گفتن «نمی‌دانم»، پاسخ‌هایی را درست می‌کنند و مشکلات بسیاری را از آسیب رساندن به یک برند گرفته تا نقض کردن مقررات به وجود می‌آورند.

ایجاد حفاظ‌های اخلاقی و موضوعی برای مدل‌های مولد هوش مصنوعی می‌تواند به حل کردن این مشکل کمک کند. بنابراین، تقویت کردن آموزش یک مدل هوش مصنوعی مولد با پایگاه‌های دانش مختص حوزه‌های سازمانی می‌تواند سودمند باشد. با وجود این، شرکت‌ها به منظور آماده شدن برای یک آینده قابل پیش‌بینی باید دقت بهتری را در اعلان‌های مهندسی داشته باشند و یک انسان را در جریان نگه دارند تا همه اطلاعات تولید شده با مدل‌ زبانی بزرگ را بررسی کند.

۲. سوگیری

شاید مشکل سوگیری هوش مصنوعی، یک خبر قدیمی باشد اما گسترش سریع هوش مصنوعی مولد این نگرانی را بیش از حد تصور تشدید کرده است. اکنون، به جای نگرانی در مورد یک سوگیری کوچک، مدیران شرکت‌ها باید نگران باشند که سوگیری هوش مصنوعی بتواند فرهنگ شرکت آنها را به طور کامل تحت سلطه خود درآورد.

آیا سهولت استفاده کردن از برنامه‌هایی مانند ChatGPT به این معناست که با توجه کردن به یک دیدگاه، تعدد صداهای ما خفه می‌شود؟ منتقدان ادعا کرده‌اند که این نرم‌افزار یک سوگیری آشکار دارد که تعصبات جنسیتی را تداوم می‌بخشد و ذاتا از نظر نژادی مغرضانه عمل می‌کند.

برای اطمینان یافتن از اینکه هوش مصنوعی مولد نمی‌تواند دیدگاه‌های سمی را در یک سازمان یا شرکت تداوم ببخشد، گروه مهندسی شرکت باید در تماس نزدیک با این موضوع باشد و تلاش کند تا ارزش‌های شرکتی و انسانی خود را به هوش مصنوعی القا کند.

۳. حجم اطلاعات

با توجه به اینکه ایجاد محتوای جدید با هوش مصنوعی مولد بسیار آسان شده است، غرق در اطلاعات شده‌ایم. ایمیل‌ها، کتاب‌های الکترونیکی، صفحات وب، پست‌های منتشر شده در رسانه‌های اجتماعی و سایر آثار تولید شده، سیل اطلاعات را سرازیر می‌کنند. حتی حجم درخواست‌های شغلی نیز افزایش یافته که به دلیل توانایی در تولید سریع رزومه‌های سفارشی‌سازی‌شده و نامه‌های پوششی با هوش مصنوعی است. مدیریت کردن این حجم بزرگ از اطلاعات جدید، کار دشواری است.

چگونه می‌توان از کوه اطلاعات ایجادشده در یک سازمان استفاده کرد؟ چگونه می‌توان همه این اطلاعات را ذخیره کرد؟ چگونه می‌توان با تحلیل داده‌ها همگام شد؟ وقتی همه محتوا با هوش مصنوعی تولید شده باشد، شایستگی اطلاعات و اشخاص چگونه ارزیابی خواهد شد؟

برای جلوگیری کردن از سردرگمی و فرسودگی کارمندان باید فناوری‌ها و روش‌های مناسبی را سازمان‌دهی کرد زیرا حجم اطلاعات پس از این بیشتر هم خواهد شد.

۴. امنیت سایبری

هوش مصنوعی مولد، قابلیت انجام دادن حملات سایبری جدید را به شدت افزایش داده است. از این فناوری می‌توان برای تحلیل رمز به منظور افزایش دادن آسیب‌پذیری و نوشتن بدافزار استفاده کرد. همچنین، می‌توان از هوش مصنوعی مولد برای تولید کردن فیلم‌های جعلی و صداهای شبیه‌سازی‌شده به منظور کلاه‌برداری و آدم‌ربایی مجازی استفاده کرد. هوش مصنوعی مولد می‌تواند ایمیل‌های قانع‌کننده‌ای را در حمایت کردن از حملات فیشینگ و موارد دیگر بنویسد. علاوه بر این، رمزهایی که با کمک هوش مصنوعی نوشته می‌شوند، ممکن است بیشتر از رمزهای تولیدشده توسط انسان در معرض هک شدن باشند.

بهترین راه مقابله کردن با آتش، خود آتش است. هوش مصنوعی می‌تواند برای تحلیل کردن رمز در جستجوی آسیب‌پذیری‌ها و انجام دادن آزمایش‌های نفوذ مداوم و بهبود مدل‌های دفاعی استفاده شود.

نباید آسیب‌پذیری شماره یک امنیت سایبری را در یک شرکت فراموش کرد. این آسیب‌پذیری، انسان‌ها هستند. هوش مصنوعی مولد می‌تواند گزارش‌های فعالیت کاربر را در جستجوی رفتار خطرناک تحلیل کند اما اولین خط دفاعی شرکت باید آموزش دادن کارکنانی باشد که بیشتر از پیش هوشیاری به خرج دهند.

۵. مالکیت معنوی

شکایت‌های هنرمندان، نویسندگان، آژانس‌های عکس و سایرین نشان می‌دهد که داده‌ها و سبک‌های اختصاصی این افراد بدون اجازه آنها برای آموزش دادن نرم‌افزار هوش مصنوعی مولد استفاده شده است. شرکت‌هایی که از نرم‌افزار مولد هوش مصنوعی استفاده می‌کنند، نگران هستند که در این معضل گرفتار شوند.

اگر هوش مصنوعی مولد تصاویری را از یک کمپین تبلیغاتی تولید کند که ناخواسته به حریم کار شخص دیگری وارد شود، مسئولیت آن با چه کسی خواهد بود؟ اطلاعاتی که با استفاده از هوش مصنوعی ایجاد می‌شوند، متعلق به چه کسی هستند؛ اشخاص، شرکت‌های نرم‌افزاری مولد هوش مصنوعی یا خود هوش مصنوعی؟ تاکنون حکم این بوده که آثار تولید شده توسط انسان‌ها با کمک هوش مصنوعی دارای حق چاپ هستند اما هنوز در مورد ثبت اختراعات صحبت نشده است.

توصیه کارشناسان این است که انسان‌ها در جریان ایجاد همه اطلاعات قرار بگیرند و اطمینان حاصل شود که تیم حقوقی شرکت با توجه به سرعت تکامل قوانین، به انجام دادن بررسی‌های لازم ادامه دهند.

۶. سایه هوش مصنوعی روی کار

نظرسنجی شرکت رایانش ابری «سیلزفورس»(Salesforce) که روی ۱۴ هزار نفر کارمند در ۱۴ کشور انجام شده است، نشان می‌دهد نیمی از کارکنانی که از فناوری‌های مولد هوش مصنوعی استفاده می‌کنند، این کار را بدون تایید سازمان‌های محل اشتغال خود انجام می‌دهند. بازگشت به روش‌های پیشین در این مورد امکان‌پذیر نخواهد بود. بنابراین، بهتر است سیاست‌هایی را برای هوش مصنوعی مولد تعیین کرد و برنامه‌هایی را برای آموزش دادن کارکنان به کار گرفت.

همچنین، کارمندان باید با سرپرست‌های فناوری اطلاعات شرکت خود در مورد کارهایی صحبت کنند که برای کشف و مدیریت نرم‌افزارهای هوش مصنوعی مولد روی دستگاه‌های شرکت انجام می‌دهند.

هنوز مشکلاتی برای مدیریت کردن هوش مصنوعی مولد وجود دارد اما این فناوری باید مدیریت شود زیرا ما در بحبوحه روند تغییر کردن نحوه انجام دادن تجارت به شیوه‌ای هستیم که پیشتر توسط هیچ‌کس انجام نشده است.

هوش مصنوعی مولد، حوزه‌های گوناگونی را از جمله مراقبت‌های بهداشتی، بانکداری، تدارکات، بیمه، خدمات مشتریان و تجارت الکترونیک تحت تاثیر قرار داده است. به سختی می‌توان صنعتی را یافت که به ‌دلیل استفاده کردن از هوش مصنوعی مولد، ناگهان در معرض اختلالات برق‌آسا قرار نگیرد. آسیب‌پذیری و سرعت اختلال هرگز بیشتر از این نبوده است. هوش مصنوعی امسال باید در اولویت هیئت مدیره شرکت‌ها باشد.

۵۸۵۸

برای دسترسی سریع به تازه‌ترین اخبار و تحلیل‌ رویدادهای ایران و جهان اپلیکیشن خبرآنلاین را نصب کنید. کد خبر 1866892

منبع: خبرآنلاین

کلیدواژه: هوش مصنوعی نوآوری و اختراع مولد هوش مصنوعی هوش مصنوعی مولد انجام دادن آسیب پذیری تولید شده شرکت ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.khabaronline.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرآنلاین» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۶۳۵۵۷۴ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

پردازش انسان‌گونه داده‌ها با استارت‌آپ «هوش فضایی»

به گزارش خبرگزاری علم و فناوری آنا به نقل از رویترز، منابع آگاه اعلام کردند که دانشمند برجسته کامپیوتر فی-فی لی در حال ساخت استارت آپی است که از پردازش انسان مانند داده‌های بصری استفاده می‌کند تا هوش مصنوعی (AI) را قادر به استدلال پیشرفته کند.

لی، که در زمینه هوش مصنوعی از پیشگامان به حساب می‌آید، برای سرمایه گذاری اولیه این شرکت پول جمع آوری کرده است. به گفته دو منبع دیگر، سرمایه گذاران شامل شرکت سرمایه گذاری سیلیکون ولی، اندریسن هوروویتز و رادیکال ونچرس، یک شرکت کانادایی است که او سال گذشته به عنوان شریک علمی به آن ملحق شد.

لی به طور گسترده به عنوان مادرخوانده هوش مصنوعی شناخته می‌شود، عنوانی که از نام پدرخوانده گرفته شده است و اغلب برای اشاره به سه محققی استفاده می‌شود که جایزه برتر دنیای محاسبات، یعنی جایزه تورینگ، را در سال ۲۰۱۸ به خاطر پیشرفت‌های خود در فناوری هوش مصنوعی دریافت کردند.

در توصیف این استارتاپ، یک منبع به گفت‌وگویی اشاره کرد که لی ماه گذشته در کنفرانس «تِد» (TED) در ونکوور ارائه داده بود. در این گفت‌وگو، او اشاره کرد که پیشرفت‌های اخیر در تحقیقات شامل الگوریتم‌هایی است که می‌توانند به‌طور معقولی پیش‌بینی کنند که تصاویر و متن در محیط‌های سه‌بعدی چگونه خواهند بود و بر اساس این پیش‌بینی‌ها عمل کنند. این الگوریتم‌ها از یک مفهوم به نام هوش فضایی استفاده می‌کنند.

برای نشان دادن این ایده، او تصویری از گربه‌ای را نشان داد که پنجه اش را دراز کرده بود و یک لیوان را به سمت لبه میز هل می‌داد. به گفته او، مغز انسان در کسری از ثانیه می‌تواند هندسه این لیوان، مکان آن در فضای سه بعدی، رابطه آن با میز، گربه و هر چیز دیگری را ارزیابی کند، سپس پیش بینی کند که چه اتفاقی می‌افتد و برای جلوگیری از آن اقدام کند.

لی گفت: طبیعت این چرخه با فضیلت را از دیدن و انجام دادن ایجاد کرده است که توسط هوش فضایی نیرو می‌گیرد.

او اضافه کرد که آزمایشگاه خودش در دانشگاه استنفورد سعی می‌کرد به رایانه‌ها چگونگی عمل در دنیای سه بعدی را بیاموزد. به عنوان مثال با استفاده از یک مدل زبان بزرگ به یک بازوی رباتیک وظایفی مانند باز کردن در و تهیه یک ساندویچ را در پاسخ به دستورات شفاهی بیاموزد.

لی با توسعه مجموعه داده تصویری بزرگ به نام «ایمیج نت» (ImageNet)، شناخته شده است که به ورود نسلی از فناوری‌های بینایی ماشین کمک کرد که برای نخستین باربه‌طور قابل اعتمادی قادر به شناسایی اشیاء بودند.

لی با ورود به دنیای استارت‌آپ‌ها، به مسابقه‌ای در میان پرطرفدارترین شرکت‌های هوش مصنوعی ملحق می‌شود تا الگوریتم‌های خود را به منظور غلبه بر محدودیت‌های فناوری‌های کنونی مانند مدل‌های زبان بزرگ، را که در میان پاسخ‌های انسان‌نمایی خیره‌کننده، گاهی به‌طور بی‌معنی ادعا‌های نادرستی مطرح می‌کنند، برطرف کند. بسیاری معتقدند که این توانایی استدلال باید قبل از رسیدن مدل‌های هوش مصنوعی به هوش عمومی مصنوعی یا (AGI)، به عنوان آستانه‌ای که سیستم می‌تواند بیشتر و یا بهتر از انسان وظایف را انجام دهد، ایجاد شود.

بعضی پژوهشگران معتقدند که با ساخت نسخه‌های بزرگ‌تر و پیچیده‌تری از مدل‌های کنونی، می‌توانند استدلال را بهبود بخشند، در حالی که دیگران معتقدند که مسیر پیشرفت شامل استفاده از مدل‌های جدید جهانی است که می‌توانند اطلاعات تصویری از محیط فیزیکی اطراف خود را جذب کرده و منطق را توسعه دهند، به‌طوری که نحوه یادگیری کودکان را تکرار کنند.

انتهای پیام/