Arsitektur Data Mesh pada Sistem Pemerintahan Berbasis Elektronik Tingkat Instansi (?) — Part 2

Caesario Kisty
6 min readJul 12, 2023

--

Overview singkat pada tulisan Part 1, telah didiskusikan bagaimana penerapan konsep Data Mesh pada Manajemen Data SPBE di tingkat instansi. Walidata memiliki peran untuk merumuskan Arsitektur Data tingkat instansi yang diselaraskan dengan Arsitektur Data tingkat nasional. Arsitektur Data sebagaimana dimaksud terdiri atas standar data dan metadata untuk Data Induk dan Data Referensi serta ketentuan mengenai tata cara perencanaan, pengumpulan, pemeriksaan, dan penyebarluasan data. Hal tersebut sejalan dengan prinsip Data Mesh tentang Federated Governance, dimana seluruh tim domain di dalam Data Mesh merujuk pada aturan dan pedoman yang ditetapkan oleh tim tata keola dalam menyelenggarakan manajemen dan analisa data di masing-masing tim domain.

Selain itu, Produsen Data merupakan unit organisasi yang memiliki peran untuk menghasilkan data sesuai dengan kewenangannya. Keterkaitannya dengan tim domain dalam konsep Data Mesh, dalam satu tim domain bisa saja terdiri atas sebuah unit organisasi atau gabungan dari beberapa unit organisasi dengan karakteristik fungsi yang sama. Pada prinsipnya data yang direncanakan, dikumpulkan, diperiksa kualitasnya, dan disebarluaskan merupakan tanggung jawab masing-masing tim domain sesuai dengan konteks kewenangannya. Kemudian setiap tim domain menerapkan Product Thinking terhadap data yang dikelola dengan menggunakan data platform yang disediakan oleh unit yang memiliki fungsi layanan teknologi informasi.

Pada tulisan di bagian ini akan fokus mendiskusikan implementasi manajemen data dalam pendekatan konsep Arsitektur Data Mesh. Namun di dalam Permen Bappenas tentang manajemen data, pelaksanaan manajemen data induk dan data referensi dilakukan terhadap data induk dan data referensi yang disepakati oleh Forum Satu Data Indonesia. Sementara itu, ketika menggunakan sudut pandang instansi, belum tentu semua data yang dikelola di dalam suatu instansi diusulkan untuk disepakati menjadi data induk dan data referensi di tingkat nasional. Tetapi di sisi lain, pada prinsipnya setiap data yang dikelola memiliki potensi nilai yang harus juga dikelola dengan baik, terlepas apakah data tersebut hanya tersebar di dalam instansi ataupun tersebar ke luar instansi untuk dibagipakaikan sebagai data induk dan data referensi. Oleh sebab itu, pada diskusi implementasi manajemen data di dalam tulisan ini diterapkan untuk seluruh data yang dikelola oleh instansi terlepas data tersebut diusulkan menjadi data induk dan data referensi atau tidak, kemudian selanjutnya disebut dengan, produk data.

https://www.datamesh-architecture.com/#how-to-design-a-data-mesh

Dalam penjelasan ke depan, mungkin saja terdapat perluasan peran yang dijalankan oleh Walidata dan Produsen Data dari yang sudah diatur dalam peraturan perundangan yang ada. Hal tersebut disebabkan oleh upaya untuk menjelaskan peran dasar mereka dalam penerapan Data Mesh di tingkat instansi.

Dalam perspektif tingkat nasional, secara tidak langsung Walidata berperan sebagai tim domain. Mereka mengumpulkan data sesuai dengan konteks ruang lingkup kewenangan instansinya. Sekarang bayangkan, peran yang dilakukan oleh Walidata dalam mengumpulkan, memeriksa, dan menyebarluaskan data dilakukan oleh Produsen Data, namun untuk ruang lingkup kewenangan unit organisasi tersebut. Mengumpulkan data sesuai dengan tugas dan fungsinya, memeriksa data yang dikumpulkan, dan menyebarluaskan data ke dalam data platform untuk menjadi sebuah produk data yang dapat dikonsumsi oleh unit organisasi lain. Untuk konsistensi, dalam tulisan ini, selanjutnya penjelasan implementasi manajemen produk data dijalankan oleh Walidata dan Tim Domain. Sebagaimana diketahui Tim Domain dapat terdiri dari satu unit organisasi atau lebih dengan karakteristik fungsi yang sama, serta perluasan peran dari sekedar menghasilkan data tetapi juga melakukan pengumpulan, pemeriksaan, dan penyebarluasan data yang berkualitas.

Apakah artinya produk data diperiksa dua kali, oleh tim domain kemudian walidata? Secara teknis, tidak, karena melalui data platform, proses data testing dilakukan menggunakan sistem otomasi. Praktikalnya, tim domain menjalankan data testing, di waktu yang bersamaan, walidata melakukan data observability dengan memonitor indeks kualitas data pada dashboard yang tersedia di data platform. Ketika kualitas data di bawah indeks yang dijadikan standar, maka walidata dapat meminta tim domain untuk melakukan perbaikan data. Kita akan membahasnya lebih teknis nanti.

“Ingat! Data Mesh bukan teknologi dan tidak identik dengan Data Platform, tetapi Data Platform bisa menjadi enabler dalam penerapan Data Mesh”

Tahapan pelaksanaan manajemen data induk dan data referensi — atau produk data — terdiri dari perencanaan, pengumpulan, pemeriksaan, penyebarluasan, dan pembaruan.

Tahapan perencanaan meliputi penyusunan daftar produk data dan rencana aksi terkait dengan cara pengumpulan, pemeriksaan, dan penyebarluasan produk data. Adapun kegiatan dalam tahap perencanaan ini dapat terdiri dari dan tidak terbatas pada:

  1. Mengidentifikasi daftar produk data yang memiliki relevansi dengan rencana strategis organisasi. Namun demikian tidak terbatas pada itu saja, setiap tim domain juga dapat mengusulkan produk data lain yang dihasilkan selama masih sesuai dengan fungsi kewenangan dan tidak duplikasi dengan produk data tim domain lain.
  2. Menentukan siapa menghasilkan, mengelola, dan bertanggung jawab pada produk data apa. Tentu hal ini juga harus sesuai dengan fungsi yang menjadi kewenangan tim domain.
  3. Walidata menentukan produk data yang akan diusulkan untuk menjadi data prioritas. Kriteria mengenai data prioritas dijelaskan di dalam Perpres SDI.
  4. Menentukan standar data dan metadata untuk setiap produk data yang akan dihasilkan. Khusus standar data dan metadata produk data yang bersifat prioritas, mengikuti standar data dan metadata yang sudah ditetapkan oleh Pembina Data (di luar bahasan).
  5. Melakukan konfigurasi pada data platform terkait dengan standar data dan metadata guna keperluan proses data testing pada tahap pemeriksaan nanti.
  6. dan lainnya.

Penjabaran tahapan di atas cukup relevan dengan prinsip federated governance. Singkatnya, Data Mesh merupakan pendekatan untuk mengelola data analitik secara terdesentralisasi. Hal ini berarti data analitik tidak dikumpulkan dan dikelola secara sentral, melainkan terdistribusi ke dalam berbagai tim domain yang bertanggung jawab atas data tersebut. Namun yang menjadi pertanyaan, kalau Data Mesh didesain untuk mengatasi pengelolaan data yang silo, kenapa malah menggunakan pendekatan desentralisasi? Perlu dipahami bahwa silo dan desentralisasi merupakan dua hal berbeda. Istilah naifnya, silo sudah pasti terdesentralisasi (utuh atau sebagian), tetapi desentralisasi belum tentu silo. Disebut silo ketika misalnya terdapat redudansi metriks ditambah dengan pendefinisian yang berbeda terkait dengan metriks tersebut antara satu unit organisasi dengan lainnya. Analisa datanya tentu dilakukan masing-masing (desentralisasi?), meski sekalipun datanya disimpan secara terpusat. Di sisi lain konsep desentralisasi pada Data Mesh terikat oleh kebijakan atau tata kelola yang bersifat global. Oleh sebab itu, Zhamak Dehghani di dalam bukunya menjelaskan konsep upaya menjaga keseimbangan antara otonomi setiap tim domain dengan kebijakan global yang mengatur implementasi Data Mesh. Lantas kemudian apa yang harus dijaga untuk tetap seimbang?

DataMesh: Delivering Data-Driven Value at Scale (Zhamak Dehghani)

Penting untuk menjaga keseimbangan dengan memberikan kebebasan kepada tim domain agar dapat mengembangkan dan mengelola produk data mereka sesuai dengan kebutuhan dan konteks domain mereka masing-masing. Otonomi ini memungkinkan tim untuk berinovasi, mengambil risiko, dan merespons kebutuhan pengguna secara lebih responsif. Namun di sisi lain, kebijakan global diperlukan untuk memastikan koherensi, keamanan, interoperabilitas, dan kepatuhan dalam implementasi Data Mesh. Kebijakan ini mencakup standar, aturan, dan prosedur yang diterapkan di seluruh tim domain untuk menjaga konsistensi dan integritas data, memastikan keamanan data, serta memfasilitasi pertukaran data dan kolaborasi antar tim domain.

Hal yang tidak kalah penting lainnya adalah bahwa kebijakan global juga memastikan bahwa produk data tetap sejalan dengan visi dan strategi organisasi secara keseluruhan. Tujuan setiap tim domain harus mendukung tujuan global dan terhubung dengan inisiatif yang lebih besar. Dengan menjaga keselarasan ini, Data Mesh dapat mencapai sinergi antara otonomi setiap tim domain dan pencapaian tujuan organisasi. Dalam konteks Manajemen Data SPBE, maka penting bagi setiap instansi untuk sedari awal mendefinisikan Arsitektur Data SPBE untuk menyelenggarakan pengelolaan data yang selaras dengan pencapaian tujuan organisasi. Selain itu juga tidak heran kenapa kemudian Arsitektur Data SPBE tingkat instansi harus diselaraskan dengan Arsitektur Data SPBE tingkat nasional. Karena pada akhirnya, penyelenggaraan manajemen data di tingkat instansi seperti sebuah kepingan puzzle yang apabila selaras dengan kepingan-kepingan lainnya di instansi lain maka menjadi sebuah gambaran utuh bagaimana data-driven public policy terselenggara dengan baik atau tidak. Maka sejak pengelolaan data di tingkat instansi, untuk menciptakan puzzle yang berkualitas, pelaksanaan manajemen data di setiap tim domain juga harus selaras dan sevisi dengan apa yang menjadi tujuan organisasi.

Untuk mengelola desentralisasi ini dengan efisien, sebagaimana diketahui bahwa Data Mesh menggunakan platform infrastruktur data. Pengelolaan sebagaimana dimaksud mencakup pengaturan, pengelolaan akses, pemantauan, dan pemeliharaan data di seluruh organisasi. Platform Data Mesh memungkinkan tim atau domain untuk mengatur dan mengelola data mereka sendiri sesuai dengan kebutuhan dan persyaratan mereka, sambil memastikan bahwa kebijakan dan standar data yang diterapkan secara organisasi tetap terpenuhi.

Namun terdapat persoalan lain. Meskipun Data Mesh menjadi pendekatan yang semakin populer, masih terdapat perbedaan interpretasi dalam konsep Data Mesh, terutama dalam konteks low-level implementation. Hal ini berarti bahwa belum ada pemahaman yang konsisten tentang bagaimana Data Mesh seharusnya diterapkan dan diimplementasikan. Dengan kata lain, ide yang sudah dterangkan sebelumnya belum dapat seutuhnya terejawantahkan ke dalam sebuah praktik baik yang relevan untuk setiap jenis organisasi tanpa terkecuali. Jelas demikian, karena pada akhirnya juga Data Mesh bukanlah sebuah tujuan, melainkan hanya sebuah paradigma dalam mencapai tujuan. Data Mesh is not for everyone.

Sampai di sini, dicukupkan sampai dengan membahas bagaimana implementasi Data Mesh dalam tahap perencanaan pada manajemen produk data, ditambah penyesuaian peran yang perlu dilakukan apabila hendak menggunakan paradigma ini. Berikutnya akan mendiskusikan lanjutan dari tahapan manajemen produk data, yaitu pengumpulan, pemeriksaan, penyebarluasan, dan pembaruan. Sekian, terima kasih.

--

--