Anthropic adalah pakaian penelitian AI baru dari Dario Amodei OpenAI, dan memiliki $ 124 juta untuk dibakar – TechCrunch

0
35


Karena AI telah berkembang dari sekian banyak proyek penelitian menjadi beberapa model raksasa yang bertenaga industri seperti GPT-3, sektor ini perlu berkembang – atau begitulah menurut Dario Amodei, mantan VP penelitian di OpenAI, yang keluar sendiri untuk membuat perusahaan baru beberapa bulan yang lalu. Antropik, demikian sebutannya, didirikan dengan saudara perempuannya Daniela dan tujuannya adalah untuk menciptakan “sistem AI skala besar yang dapat dikendalikan, ditafsirkan, dan kuat.”

Tantangan yang dihadapi saudara kandung Amodei hanyalah bahwa model AI ini, meski sangat kuat, tidak dipahami dengan baik. GPT-3, yang mereka kerjakan, adalah sistem bahasa yang sangat serbaguna yang dapat menghasilkan teks yang sangat meyakinkan dalam hampir semua gaya, dan pada topik apa pun.

Tapi katakanlah Anda membuatnya menghasilkan bait berima dengan Shakespeare dan Pope sebagai contoh. Bagaimana cara melakukannya? Apa itu “berpikir”? Tombol mana yang akan Anda atur, dial mana yang akan Anda putar, untuk membuatnya lebih melankolis, tidak romantis, atau membatasi diksi dan leksikonnya dengan cara tertentu? Tentu saja ada parameter untuk diubah di sana-sini, tetapi sebenarnya tidak ada yang tahu persis bagaimana sosis bahasa yang sangat meyakinkan ini dibuat.

Mengetahui kapan model AI menghasilkan puisi adalah satu hal, hal lain lagi ketika model sedang mengamati department store untuk perilaku yang mencurigakan, atau mengambil preseden hukum untuk hakim yang akan menjatuhkan hukuman. Saat ini aturan umumnya adalah: semakin kuat sistemnya, semakin sulit menjelaskan tindakannya. Itu bukan tren yang bagus.

“Sistem umum yang besar saat ini dapat memiliki manfaat yang signifikan, tetapi juga dapat tidak dapat diprediksi, tidak dapat diandalkan, dan tidak jelas: tujuan kami adalah membuat kemajuan dalam masalah ini,” membaca deskripsi diri perusahaan. “Untuk saat ini, kami terutama berfokus pada penelitian untuk mencapai tujuan ini; di masa mendatang, kami melihat banyak peluang bagi pekerjaan kami untuk menciptakan nilai secara komersial dan untuk kepentingan publik. “

Tujuannya tampaknya untuk mengintegrasikan prinsip keselamatan ke dalam sistem prioritas pengembangan AI yang ada yang umumnya mengutamakan efisiensi dan daya. Seperti industri lainnya, lebih mudah dan lebih efektif untuk memasukkan sesuatu dari awal daripada menguncinya di akhir. Mencoba membuat beberapa model terbesar di luar sana yang dapat dipilih dan dipahami mungkin lebih merepotkan daripada membangunnya di tempat pertama. Antropik tampaknya mulai segar.

“Tujuan Anthropic adalah membuat kemajuan penelitian fundamental yang akan memungkinkan kita membangun sistem AI yang lebih mampu, umum, dan andal, lalu menerapkan sistem ini dengan cara yang menguntungkan orang,” kata Dario Amodei, CEO dari usaha baru, singkatnya. pasca mengumumkan perusahaan dan $ 124 juta dalam pendanaan.

Pendanaan itu, omong-omong, bertabur bintang seperti yang Anda harapkan. Itu dipimpin oleh salah satu pendiri Skype Jaan Tallinn, dan termasuk James McClave, Dustin Moskovitz, Eric Schmidt dan Center for Emerging Risk Research, antara lain.

Perusahaan ini adalah perusahaan kepentingan publik, dan rencananya untuk saat ini, seperti yang disarankan oleh informasi terbatas di situs, adalah tetap meneliti pertanyaan mendasar tentang cara membuat model besar lebih mudah diatur dan ditafsirkan. Kita dapat mengharapkan lebih banyak informasi akhir tahun ini, mungkin, karena misi dan tim bersatu dan hasil awal berjalan dengan baik.

Nama tersebut, kebetulan, berdekatan dengan antroposentris, dan menyangkut relevansi dengan pengalaman atau keberadaan manusia. Mungkin ini berasal dari “Prinsip antropik,” gagasan bahwa kehidupan berakal mungkin terjadi di alam semesta karena… yah, kita di sini. Jika kecerdasan tidak dapat dihindari dalam kondisi yang tepat, perusahaan harus menciptakan kondisi tersebut.





Sumber

LEAVE A REPLY

Please enter your comment!
Please enter your name here