Sopan Santun Digital Berdampak: Biaya 'Tolong' dan 'Terima Kasih' pada ChatGPT Capai Jutaan Dollar
Penggunaan chatbot kecerdasan buatan (AI) seperti ChatGPT telah menjadi bagian tak terpisahkan dari kehidupan digital kita. Namun, tahukah Anda bahwa kebiasaan mengucapkan "tolong" dan "terima kasih" saat berinteraksi dengan ChatGPT dapat menimbulkan konsekuensi finansial yang signifikan bagi perusahaan di baliknya, OpenAI?
CEO OpenAI, Sam Altman, mengungkapkan melalui platform X (sebelumnya Twitter) bahwa ungkapan kesopanan dari pengguna ChatGPT berkontribusi pada pengeluaran perusahaan hingga jutaan dollar. Biaya ini terkait erat dengan konsumsi energi yang dibutuhkan untuk menjalankan chatbot AI tersebut.
Implikasi di Balik Ucapan Sopan
Model AI seperti ChatGPT membutuhkan daya komputasi yang besar untuk memproses setiap perintah (prompt) yang diberikan pengguna. Proses pelatihan model, yang melibatkan analisis data dalam jumlah besar dan penggunaan perangkat keras berkinerja tinggi seperti GPU (Graphics Processing Unit) dan TPU (Tensor Processing Unit), memerlukan konsumsi listrik yang substansial. Komponen-komponen ini juga menghasilkan panas, sehingga membutuhkan sistem pendingin yang turut menyumbang pada penggunaan energi.
Sebagai gambaran, pelatihan model AI seperti GPT-3 membutuhkan sekitar 1.287 megawatt-hour (MWh) listrik. Jumlah ini setara dengan konsumsi listrik tahunan sekitar 120 rumah di Amerika Serikat. Laporan dari Towards Data Science pada Agustus 2024 memperkirakan bahwa pelatihan model GPT-4 selama 90-100 hari membutuhkan sekitar 62.000 MWh, setara dengan konsumsi energi 1.000 rumah tangga AS selama 5-6 tahun.
Rincian Konsumsi Listrik GPT-4
ChatGPT dan Microsoft Copilot menggunakan model bahasa besar (LLM) GPT-4 sebagai mesin utama. GPT-4 dilatih menggunakan sekitar 25.000 GPU Nvidia A100 selama 90-100 hari, dengan biaya pelatihan dilaporkan mencapai 100 juta dollar AS.
Untuk memperkirakan konsumsi listriknya, mari kita asumsikan GPU dipasang di server Nvidia HGX (8 GPU per server), sehingga GPT-4 membutuhkan 3.125 server. Server Nvidia DGX yang serupa memiliki TDP (Thermal Design Power) 6,5 kW. Jika server beroperasi pada daya penuh selama 1 jam, ia akan mengonsumsi 6,5 KWh. Dengan asumsi pelatihan GPT-4 membutuhkan 2.160-2.400 jam per server, setiap server mengonsumsi 14.040-15.600 KWh selama pelatihan. Total konsumsi untuk 3.125 server adalah 43.875.000-48.750.000 KWh.
Perhitungan ini kemudian dikalikan dengan PUE (Power Usage Effectiveness) pusat data, yang menunjukkan efisiensi penggunaan energi. Pusat data Microsoft Azure, tempat GPT-4 kemungkinan dilatih, memiliki PUE rata-rata 1,18. Dengan demikian, estimasi konsumsi listrik untuk melatih GPT-4 adalah antara 51.772 MWh dan 57.525 MWh.
Angka ini menunjukkan bahwa model AI canggih seperti GPT-4 memiliki dampak signifikan terhadap konsumsi energi. Meskipun OpenAI tidak secara eksplisit mempermasalahkan biaya yang timbul akibat ucapan "tolong" dan "terima kasih", implikasinya jelas: setiap interaksi dengan AI berkontribusi pada jejak karbon digital kita. Seiring dengan perkembangan AI, penting untuk mempertimbangkan implikasi lingkungan dari teknologi ini dan mencari cara untuk mengurangi konsumsi energi.
Dengan demikian, meskipun kesopanan adalah hal yang baik, dalam konteks interaksi dengan AI, dampaknya terhadap lingkungan dan biaya operasional perlu dipertimbangkan. Apakah kita perlu mengubah kebiasaan kita saat berinteraksi dengan AI, ataukah perusahaan perlu mencari solusi yang lebih efisien untuk mengurangi konsumsi energi? Pertanyaan ini akan menjadi semakin relevan seiring dengan semakin populernya AI dalam kehidupan kita sehari-hari.