Implikasi Ekonomi dari Kesantunan Berbahasa pada AI

Penggunaan kata-kata sopan seperti "tolong" dan "terima kasih" saat berinteraksi dengan chatbot AI seperti ChatGPT, meskipun terkesan sepele, ternyata memiliki implikasi biaya yang signifikan bagi OpenAI. CEO OpenAI, Sam Altman, mengungkapkan bahwa kebiasaan pengguna dalam menambahkan kesantunan berbahasa tersebut berkontribusi pada pengeluaran perusahaan hingga puluhan juta dolar.

Seorang pengguna platform X (sebelumnya Twitter) dengan handle @tomieinlove, mempertanyakan besaran biaya listrik yang harus ditanggung OpenAI akibat kebiasaan pengguna yang kerap bersikap sopan pada model AI mereka. Altman menanggapi pertanyaan tersebut dengan menyatakan bahwa perusahaan menghabiskan "puluhan juta dollar" untuk hal tersebut, namun tidak memberikan rincian angka yang lebih spesifik.

Analisis Biaya Token dan Konsumsi Energi ChatGPT

Secara teknis, biaya penggunaan ChatGPT (versi GTP-3.5 Turbo) adalah sekitar 0,0015 dollar AS untuk setiap 1.000 token input dan 0,002 dollar AS untuk setiap 1.000 token output. Token sendiri dapat berupa satu kata, bagian kata, atau bahkan karakter seperti tanda baca. Kata-kata seperti "tolong" dan "terima kasih" biasanya menambahkan sekitar 2 hingga 4 token per interaksi.

Dengan demikian, biaya untuk satu kali penggunaan yang menyertakan kata-kata sopan memang tergolong kecil, yaitu sekitar 0,0000015 dollar AS hingga 0,000002 dollar AS per percakapan. Namun, jika diakumulasikan, biaya ini dapat mencapai sekitar 400 dollar AS per hari atau 146.000 dollar AS per tahun.

Selain biaya token, konsumsi energi juga menjadi faktor penting. Lembaga Penelitian Listrik dari Badan Informasi Energi AS memperkirakan tagihan listrik bulanan OpenAI mencapai sekitar 12 juta dollar AS, atau 140 juta dollar AS per tahun. Angka ini mencakup seluruh interaksi, termasuk yang menggunakan kata-kata sopan. Secara teoritis, penggunaan kata-kata sopan dapat menyumbang biaya lebih dari 10 juta dollar AS per tahun.

Pelatihan Model AI dan Kebutuhan Energi yang Besar

Model AI seperti yang digunakan oleh ChatGPT membutuhkan proses pelatihan yang intensif agar mampu menjalankan berbagai tugas, mulai dari pengenalan gambar hingga pemahaman bahasa. Proses pelatihan ini melibatkan penggunaan data berukuran besar dan perangkat keras bertenaga tinggi seperti GPU dan TPU. Baik dalam proses pelatihan maupun saat memproses setiap prompt dari pengguna, model AI mengonsumsi listrik dalam jumlah yang signifikan.

Sebagai contoh, pelatihan model AI seperti GPT-3 membutuhkan sekitar 1.287 megawatt-hour (MWh), yang cukup untuk menyuplai listrik bagi 120 rumah di Amerika Serikat selama satu tahun. Model AI yang lebih canggih seperti GPT-4 membutuhkan sumber daya yang lebih besar.

Estimasi Konsumsi Listrik untuk Melatih GPT-4

GPT-4 dilatih menggunakan sekitar 25.000 GPU Nvidia A100 selama 90-100 hari, dengan biaya pelatihan mencapai 100 juta dollar AS. Estimasi konsumsi listrik untuk melatih GPT-4 adalah antara 51.772 MWh dan 57.525 MWh. Angka ini setara dengan konsumsi energi selama 5 hingga 6 tahun dari 1.000 rumah tangga AS pada umumnya, dan 40 kali lebih tinggi dari estimasi konsumsi listrik GPT-3.

Berikut adalah rincian estimasi tersebut:

• Jumlah server yang dibutuhkan: 3.125 server (dengan asumsi setiap server Nvidia HGX menampung 8 GPU).
• Konsumsi daya per server: Diperkirakan 6,5 KWh per jam (berdasarkan TDP server Nvidia DGX yang serupa).
• Waktu pelatihan: 2.160 jam hingga 2.400 jam per server.
• Konsumsi listrik per server selama pelatihan: 14.040 KWh hingga 15.600 KWh.
• Total konsumsi listrik perangkat keras: 43.875.000 KWh hingga 48.750.000 KWh.
• Faktor efektivitas penggunaan daya (PUE) pusat data Microsoft Azure: Rata-rata 1,18.
• Estimasi konsumsi listrik total (dengan PUE): 51.772.500 KWh hingga 57.525.000 KWh.

Dengan demikian, kebiasaan pengguna dalam menggunakan kata-kata sopan saat berinteraksi dengan AI, ditambah dengan kompleksitas dan kebutuhan energi yang besar dalam pelatihan model AI, menunjukkan bahwa interaksi digital memiliki dampak ekonomi dan lingkungan yang signifikan.