Pentagon bergerak untuk memastikan kontrol manusia sehingga AI tidak ‘membuat keputusan untuk kita’

Militer AS merangkul kecerdasan buatan sebagai alat untuk mencerna data dengan cepat dan membantu para pemimpin membuat keputusan yang tepat – dan tidak membuat keputusan itu untuk manusia yang bertanggung jawab, menurut dua penasihat AI teratas di Komando Pusat AS.

CENTCOM, yang bertugas menjaga keamanan nasional AS di Timur Tengah dan Asia Tenggara, baru saja mempekerjakan Dr. Andrew Moore sebagai penasihat AI pertamanya. Moore adalah mantan direktur Google Cloud AI dan mantan dekan Sekolah Ilmu Komputer Universitas Carnegie Mellon, dan dia akan bekerja dengan Schuyler Moore, chief technology officer CENTCOM.

Dalam sebuah wawancara dengan Fox News Digital, mereka berdua sepakat bahwa sementara beberapa membayangkan senjata yang digerakkan oleh AI, militer AS bertujuan untuk menjaga manusia di kursi pengambilan keputusan, dan menggunakan AI untuk menilai data dalam jumlah besar yang membantu orang-orang duduk. kursi-kursi itu.

“Ada banyak kekhawatiran, memang demikian, tentang konsekuensi dari senjata otonom,” kata Dr. Moore. “Satu hal yang sangat saya sadari dalam semua urusan saya dengan … militer AS: Saya tidak pernah mendengar siapa pun dari militer AS menyarankan bahwa membuat senjata otonom adalah ide yang bagus.”

AI JEDA MENYERAHKAN KEKUATAN KE CHINA, MERUGIKAN PERKEMBANGAN AI ‘DEMOKRATIS’, AHLI PERINGATAN SENAT

Schuyler Moore mengatakan militer melihat AI sebagai “saklar lampu” yang membantu orang memahami data dan mengarahkan mereka ke arah yang benar. Dia menekankan bahwa Pentagon percaya bahwa “harus dan akan selalu melibatkan manusia dalam membuat keputusan akhir.”

“Bantu kami membuat keputusan yang lebih baik, jangan membuat keputusan untuk kami,” katanya.

KLIK DI SINI UNTUK MEMBACA LEBIH LANJUT LIPUTAN AI DARI FOX NEWS DIGITAL

Salah satu contoh yang mereka diskusikan dalam lingkup pengaruh CENTCOM adalah penggunaan AI untuk menindak pengiriman senjata ilegal di sekitar Iran. Nona Moore mengatakan bahwa para pejabat percaya AI dapat digunakan untuk membantu militer mempersempit jumlah pengiriman yang mungkin mencurigakan dengan memahami seperti apa pola pengiriman “normal” dan menandai pengiriman yang berada di luar norma.

Setelah subset dari kapal yang mungkin mencurigakan di atas air diidentifikasi, AI juga dapat digunakan untuk menginterpretasikan gambar dan video dengan cepat dan memberikan interpretasi dan penilaian kepada pemimpin militer manusia.

“Anda dapat membayangkan ribuan dan ribuan jam umpan video atau gambar yang diambil dari kapal permukaan tak berawak yang biasanya akan memakan waktu berjam-jam dan berjam-jam untuk dilalui oleh seorang analis,” kata Ms. Moore. “Dan ketika Anda menerapkan algoritme visi komputer, tiba-tiba Anda dapat menurunkan waktu itu menjadi 45 menit.”

PENEMU ALTERNATIF? BIDEN AMIN MEMBUKA PINTU BAGI PEMEGANG PATEN NON-MANUSIA AI

Dr. Andrew Moore, sekarang penasihat CENTCOM pada AI, digambarkan di sini pada tahun 2018 ketika dia menjadi Dekan, Fakultas Ilmu Komputer, Universitas Carnegie Mellon (CMU). (Tangkapan layar dari situs DVD pemerintah federal)

Dr. Moore mengatakan bahwa untuk mengaktifkan dan menjalankan sistem semacam ini, berton-ton data perlu diolah oleh sistem AI sehingga ia mengetahui seperti apa pola pengiriman normal.

“Ada dua hal besar yang terjadi terkait data, komputasi, dan jaringan di dalam komando kombatan seperti CENTCOM,” katanya. “Yang pertama adalah mendapatkan data. Dan yang berikutnya adalah, memiliki komputer yang dapat memahami dan menarik kesimpulan dari data tersebut.”

Dalam contoh pemantauan pengiriman di sekitar Iran, Ms. Moore mengatakan tujuannya adalah untuk membawa AI ke titik di mana ia memahami “pola kehidupan” di wilayah dunia itu, sehingga AS dapat memahami kapan pola-pola itu rusak. yang mungkin mengancam keamanan nasional AS. Dia menggambarkan upaya itu sebagai upaya “merangkak, berjalan, lari” yang akan membuat keputusan militer AS lebih tajam dan lebih cepat.

BIDEN DAPAT MENGATUR AI UNTUK ‘DISINFORMASI’, ‘HASIL DISKRIMINASI’

“Rangkaiannya adalah, apakah saya melihat sesuatu? Apakah saya memiliki sensor yang dapat mengambil gambar?” dia berkata. “Jalannya adalah, dapatkah saya mengetahui apa yang ada di gambar? Lalu larinya adalah, apakah saya memahami konteks dari apa yang ada di dalam gambar? Apakah saya tahu dari mana asalnya, apakah saya tahu ke mana perginya dan apakah saya tahu kalau itu biasa.”

Upaya serupa kemungkinan besar akan dilakukan di bidang-bidang seperti lalu lintas udara, sehingga AS dapat menginterpretasikan pola yang mengancam di udara lebih cepat daripada manusia dapat memahami lalu lintas apa yang “normal” dan lalu lintas apa yang di luar norma.

Kepala Perwira Teknologi Komando Pusat AS Schuyler Moore melakukan konferensi pers tentang kecerdasan buatan dan sistem tak berawak di Pentagon, Washington, DC, 7 Desember 2022. (Tangkapan layar dari situs DVIDS pemerintah federal)

Dr Moore mengatakan perannya adalah untuk membantu CENTCOM menggabungkan kemampuan AI saat ini ke dalam militer dengan cara ini. Dia mengatakan beberapa produk komersial dapat memprediksi hal-hal seperti berapa banyak persediaan yang harus dikirim ke toko tertentu.

“Teknologinya sangat bagus dalam mendeteksi dan memprediksi, bahkan fluktuasi yang sangat kecil,” katanya. “Hal yang saya harap dapat dilakukan dalam peran ini… adalah untuk melihat apakah saya dapat membantu memastikan bahwa beberapa dari metode yang sangat cerdas ini digunakan di sektor komersial, kami juga dapat menerapkannya untuk membantu beberapa hal besar ini. masalah yang dihadapi publik di sektor militer.”

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Dr. Moore mengatakan dia juga yakin AS sedang berlomba untuk menciptakan sistem AI yang lebih bertanggung jawab dibandingkan dengan yang dikembangkan oleh musuh AS. Dia mengatakan beberapa negara menjadi “sangat pandai” dalam menggunakan AI untuk melakukan pengawasan ilegal, dan berkata, “Kita harus siap untuk melawan teknik pengawasan agresif semacam ini terhadap Amerika Serikat.”

Ms Moore mengatakan AS berharap untuk memimpin dalam mengembangkan aplikasi AI yang bertanggung jawab. “Itu adalah sesuatu yang dapat kami pengaruhi secara positif, semoga dengan menunjukkan penggunaan kami yang bertanggung jawab atas itu,” katanya.