آرشیو ملی
حفظ داده‌های حاشیه‌ای برای مسئولیت پاسخگویی (قابلیت اعتماد و حسابرسی) عاملان هوش مصنوعی نیمه‌خودمختار در محیط‌های پویا: دیدگاهی آرشیوی
نوع مقاله : ترجمه
نویسندگان
چکیده
این مقاله دسته‌ای از سیستم‌های هوش مصنوعی بلادرنگ (AI) را پیشنهاد می‌کند که به‌عنوان کاربردهایی از سیستم‌های کنترل کامپیوتری‌شده در شرایط پویا و با محدودیت زمانی عمل می‌کنند که به‌طورمعمول توسط هوش انسانی مدیریت می‌شوند. این مقاله با اشاره به چالش‌های پاسخگویی که این سیستم‌ها ایجاد می‌کنند، نیاز به مستندسازی دقیق و ظرفیت‌های ضبط داده‌ها را در این سیستم‌ها مطرح می‌کند. این مقاله چهار سیستم هوش مصنوعی بلادرنگ را بررسی می‌کند که نیازهای قابل‌توجهی به ضبط داده‌ها دارند: وسایل نقلیه خودران، سیستم‌های هدف‌گذاری محتوای آنلاین، ابزارهای واقعیت ترکیبی برای محیط‌های جراحی و سیستم‌های همزاد دیجیتال در مدیریت تأسیسات فرودگاهی. این مقاله پارادیتا، یا داده‌هایی که منجر به خروجی در عملکرد یک سیستم می‌شوند را به‌عنوان یک دسته کلیدی از داده‌ها معرفی می‌کند که برای شفافیت کامل در سوابق تولیدشده توسط این سیستم‌ها، نیاز به نگهداری دارند. پارادیتا به‌عنوان «اطلاعات مربوط به فرایند(ها) و ابزارهایی که برای ایجاد و پردازش منابع اطلاعاتی استفاده می‌شوند، به همراه اطلاعات مربوط به افرادی که این فرایندها را انجام می‌دهند» تعریف می‌شود. پارادیتا فرایندهای فناورانه مات را که زیربنای تولید سایر مجموعه داده‌ها قرار دارند، آشکار می‌کند و در سطحی دقیق باید برای ترسیم مرزهای بین عامل انسانی و سیستم در سیستم‌های نیمه‌مستقل شناسایی و نگهداری شود. این مقاله درنهایت با تکیه‌بر نظریه کنترل، چارچوبی را برای ارزیابی عملکرد سیستم‌های هوش مصنوعی بلادرنگ و ملزومات مستندسازی و ضبط داده‌های آن‌ها ارائه می‌کند.
کلیدواژه‌ها
عنوان مقاله [English]
Preserving paradata for accountability of semi-autonomous AI agents in dynamic environments: An archival perspective
نویسندگان [English]
- Scott Cameron
- Babak Hamidzadeh
- pourya rahat
- Amirreza Asnafi
چکیده [English]
This paper proposes the category of real-time artificial intelligence (AI) systems as applications of computerized control systems in dynamic, time-constrained contexts normally managed by human intelligence. Noting the accountability challenges which these systems introduce, the paper posits the need for robust documentation and records capacities within these systems. The paper surveys four real-time AI systems with significant records needs: autonomous vehicles, online content targeting systems, mixed-reality tools for surgical contexts, and digital twin systems in airport facilities management. The paper identifies paradata, or the data leading up to an output in a system’s operation, as a key data category necessitating preservation for full transparency in the records generated by these systems. Paradata is defined as “information about the procedure(s) and tools used to create and process information resources, along with information about the persons carrying out those procedures.” Paradata uncovers opaque technological processes underlying the production of other datasets and at a granular level must be identified and preserved to delineate the boundaries between human and system agency in semi-autonomous systems. With a basis in control theory, the paper finally offers a framework for assessing the functions of real-time AI systems’ operations and their documentation and records needs.
کلیدواژه‌ها [English]
- Real time systems
- Artificial intelligence
- Records
- Paradata
)