Penelitian ini membahas pengembangan sistem chatbot berbasis Large Language Models (LLM) dan vector database untuk layanan informasi di Dinas Kependudukan dan Pencatatan Sipil Kota Semarang. Tujuan penelitian adalah merancang chatbot yang responsif, akurat, dan tersedia 24/7 guna meningkatkan aksesibilitas dan efisiensi layanan publik. Sistem ini mengintegrasikan Langchain, GPT-4o Mini, dan Pinecone. Langchain digunakan untuk logika percakapan, GPT-4o Mini memproses bahasa alami, dan Pinecone mempercepat pencarian data berbasis vector. FastAPI berfungsi sebagai backend, Twilio menghubungkan chatbot ke WhatsApp, dan Redis menyimpan riwayat percakapan untuk meningkatkan responsivitas. Metode pengembangan menggunakan pendekatan waterfall, mulai dari analisis kebutuhan, desain sistem, implementasi, hingga pengujian dengan metode Black Box Testing dan User Acceptance Testing (UAT). Hasil pengujian menunjukkan sistem mampu menjawab 85% pertanyaan pengguna secara akurat (17 dari 20 skenario). Evaluasi UAT dengan 23 responden menghasilkan skor kelayakan 87% (kategori Sangat Layak), dengan aspek fungsionalitas (88%), kegunaan (88%), efisiensi (86%), dan keandalan (86%). Chatbot ini berhasil memberikan informasi kependudukan dan pencatatan sipil secara akurat serta mengurangi beban kerja pegawai. Sistem telah dipublikasikan secara online dan dapat diakses 24/7. Evaluasi menunjukkan beberapa kendala, seperti pemahaman terhadap pertanyaan spesifik dan kecepatan respons yang bervariasi. Kendala tersebut diatasi dengan memperluas dataset dan mengoptimalkan sistem. Kesimpulannya, chatbot ini memberikan solusi inovatif dan efisien untuk layanan informasi pemerintahan, meningkatkan transparansi, dan mempermudah masyarakat dalam mengakses informasi kependudukan.