Bagi sebagian pengguna yang mencoba berbagai chatbot kecerdasan buatan (AI), Claude kerap terasa berbeda saat diajak berbincang. Ketika pengguna menceritakan keluh kesah, masalah pekerjaan, atau hari yang buruk, chatbot buatan Anthropic ini sering merespons dengan kalimat hangat seperti, “That sounds really hard” (Itu kedengarannya sangat berat ya). Respons semacam itu dinilai lebih manusiawi dibandingkan balasan yang terkesan kaku dan seperti template.
Kemampuan Claude merespons dengan empati membuatnya kerap dipuji sebagai AI yang “memanusiakan” penggunanya. Di balik karakter tersebut, ada peran seorang filsuf perempuan asal Skotlandia, Amanda Askell, yang disebut ikut membentuk “jiwa” dan kompas moral Claude.
Di Anthropic, Askell menjabat sebagai Kepala Tim Penyelarasan Kepribadian. Alih-alih berfokus pada aspek teknis seperti server atau perangkat keras, tugas utamanya adalah mendefinisikan kepribadian Claude sekaligus menanamkan prinsip moral yang menjadi pedoman dalam merespons pengguna.
Amanda Askell tumbuh di Prestwick, Skotlandia, dan dibesarkan oleh ibunya yang berprofesi sebagai guru. Ketertarikannya pada pertanyaan tentang eksistensi dan moralitas muncul sejak kecil, salah satunya lewat kegemarannya membaca karya epik J.R.R. Tolkien dan C.S. Lewis.
Latar pendidikannya pun jauh dari kesan dunia pemrograman. Askell mempelajari seni rupa dan filsafat di University of Dundee, lalu melanjutkan studi ke University of Oxford untuk meraih gelar BPhil, sebelum menyelesaikan PhD di New York University (NYU). Di NYU, tesisnya membahas “etika tak terbatas” (infinite ethics), yakni persoalan bagaimana moralitas bekerja ketika diterapkan pada populasi berskala tak terhingga.
Karier Askell di industri AI dimulai di OpenAI pada 2020 sebagai ilmuwan riset yang berfokus pada keselamatan AI. Ia juga tercatat sebagai salah satu penulis pendamping untuk makalah penelitian GPT-3. Namun, seiring waktu, ia memutuskan keluar dari OpenAI karena kekhawatiran bahwa perusahaan mulai menggeser prioritas, dari kehati-hatian dan keselamatan menuju pengejaran kemampuan teknis model.
Pada Maret 2021, Anthropic—startup yang juga didirikan oleh sejumlah mantan petinggi OpenAI—mengajaknya bergabung. Permintaannya tidak biasa: Askell tidak hanya diminta menyiapkan daftar periksa keselamatan, tetapi juga merancang keseluruhan kepribadian Claude. Dari sinilah perannya sebagai Kepala Tim Penyelarasan Kepribadian menguat.
Di Anthropic, Askell menerapkan pendekatan yang dikenal sebagai Constitutional AI (CAI). Dalam metode ini, Claude dilatih menggunakan sebuah dokumen yang diinternalisasi sebagai “konstitusi” untuk memandu perilaku dan responsnya. Askell menyusun naskah moral sekitar 30.000 kata yang digunakan dalam proses pelatihan.
Dokumen tersebut disebut mengambil inspirasi dari berbagai sumber, mulai dari Deklarasi Universal Hak Asasi Manusia PBB hingga ketentuan layanan Apple yang menekankan privasi dan keamanan pengguna. Tujuannya bukan membuat Claude sekadar patuh pada aturan secara kaku, melainkan mampu bernalar mengenai prinsip kejujuran, sikap menolong, dan upaya meminimalkan bahaya. Secara sederhana, pekerjaan Askell adalah mengajarkan Claude untuk menjadi “sosok” yang baik.
Sentuhan itu terasa dalam interaksi sehari-hari. Respons empatik seperti “That sounds really hard” disebut bukan kebetulan algoritma semata, melainkan hasil pengajaran yang dirancang agar Claude mampu merespons keluh kesah pengguna dengan hangat. Presiden Anthropic, Daniela Amodei, bahkan pernah menyampaikan bahwa saat seseorang berbicara dengan Claude, mereka seolah bisa merasakan sedikit kepribadian Amanda Askell di dalamnya.
Meski demikian, menanamkan moralitas pada mesin bukan tanpa tantangan. Askell harus mengatasi kecenderungan AI yang terkadang bisa terdengar terlalu menasihati atau berlebihan dalam memberi ceramah moral. Ia berupaya menjaga keseimbangan agar Claude tetap berpegang pada nilai keselamatan tanpa terdengar menggurui, sehingga chatbot tersebut dapat memperlakukan pengguna sebagai lawan bicara yang cerdas dan nyaman untuk berdiskusi.
Pendekatan ini disebut membuahkan hasil berdasarkan sejumlah metrik industri. Claude dilaporkan meraih tingkat kepercayaan publik 82 persen dan tingkat kepuasan pengguna 92 persen. Ketegasannya dalam menolak konten berbahaya secara halus juga diklaim akurat, dengan skor penyaringan materi tak pantas 97,2 persen. Sementara itu, tingkat halusinasi Claude—kecenderungan AI mengarang fakta—dilaporkan terendah di industri, yakni 1,8 persen.
Atas kiprahnya, majalah TIME memasukkan Amanda Askell dalam daftar TIME 100 AI pada 2024. Di luar pekerjaannya di bidang teknologi, Askell juga disebut menjadi anggota gerakan Giving What We Can dan berikrar menyumbangkan setidaknya 10 persen dari total pendapatan seumur hidupnya untuk yayasan amal yang berfokus pada pengentasan kemiskinan ekstrem global.
