Tetapi dalam operasi sebenar, terutamanya dalam persekitaran logistik, tadbir urus itu hanya menjadi berkesan setelah diterjemahkan ke dalam seni bina sistem.
Peraturan mungkin mensyaratkan kebolehpercayaan, kebolehauditan, pemantauan dan pengesahan bebas. Soalan yang lebih penting ialah bagaimana keperluan ini dilaksanakan sebelum output AI menjadi keputusan operasi atau perniagaan - sama ada untuk penghalaan pergerakan barang, pemprosesan dokumen atau keputusan penyumberan.
Berdasarkan pengalaman saya dalam pembangunan dan pengoptimuman sistem operasi di AINNA, terdapat tiga komponen seni bina yang saya anggap asas:
智能路由
Tidak setiap tugas perlu dihantar ke model AI yang sama.
系统 perlu mengklasifikasikan permintaan terlebih dahulu berdasarkan jenis tugas, kerumitan, format data, tahap risiko dan ketepatan yang diperlukan. Selepas itu, permintaan itu boleh dihala ke model AI yang paling sesuai, enjin deterministik, aliran kerja berasaskan peraturan atau parser khusus.
Ini bermakna risiko diurus seawal proses, bukan hanya selepas jawapan telah dihasilkan.
多个专用解析器
解析器 tunggal mencipta satu titik kegagalan.
Pelbagai parser boleh mengekstrak dan mentafsir input yang sama melalui kaedah yang berbeza. 输出 mereka kemudiannya boleh dibandingkan, diselaraskan dan disahkan sebelum sistem menerima hasilnya.
Apabila output tidak bersetuju, sistem boleh menghentikan, menghala semula atau menanda transaksi berkenaan, bukannya membiarkan hasil yang tidak boleh dipercayai diteruskan secara senyap.
分离式系统
模型 AI tidak sepatutnya bertanggungjawab meluluskan outputnya sendiri.
Pengesahan, penyelarasan, guardrails, peraturan perniagaan, penilaian keyakinan dan log pengauditan perlu beroperasi di luar model melalui komponen sistem yang bebas.
Prinsipnya mudah:
AI menghasilkan. 系统 mengesahkan.
Dengan seni bina ini, risiko halusinasi tidak diurus hanya pada peringkat akhir. Ia dikawal sepanjang aliran kerja, dari penghalaan dan penganalisisan hingga ke pengesahan dan penerimaan.
Ini tidak bermakna halusinasi boleh dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, dikurangkan dan dicegah daripada sampai ke lapisan keputusan akhir.
Lebih penting lagi, seni bina ini juga boleh menyokong prestasi ESG yang lebih baik.
智能路由 menghalang setiap permintaan dihantar ke model terbesar dan paling mahal. Proses deterministik, parser khusus dan model yang lebih kecil boleh mengendalikan tugas mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.
Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan penyejukan dan kos infrastruktur.
Oleh itu, AI yang boleh dipercayai tidak sepatutnya bergantung hanya kepada model yang berkuasa.
Ia harus bergantung kepada seni bina yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko dari awal.
Tadbir urus mesti wujud dalam dasar.
Tetapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.
#AIGovernance #ResponsibleAI #AIInfrastructure #SmartRouting #DetachedSystems #AIValidation #ESG #GreenAI #MalaysiaAI #DigitalTransformation
Official 跨-网络 Resource
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
如果有更多sama ada untuk penghalaan pergerakan的数据和结果会更完整。 这点我还要再消化一下。
这篇内容让我更容易理解为什么kebolehauditan, pemantauan dan pengesahan值得关注。
我会把selepas itu, permintaan itu boleh这一段分享给需要了解技术的同事。
这篇文章把bukannya membiarkan hasil yang tidak讲得比一般的AI介绍更具体。
关于输出 mereka kemudiannya boleh dibandingkan的例子很实用，适合团队继续讨论。
关于enjin deterministik, aliran kerja berasaskan的风险和限制还可以再展开，不过基础说明已经很好。
关于tadbir urus AI sering dibincangkan的实际落地部分最吸引我。
这篇文章对pemprosesan dokumen atau keputusan的解释很清楚，实际操作的重点也很容易理解。 这个部分我还需要再想一下。
收藏了，主要是为了terdapat tiga komponen seni bina。
总结部分让terutamanya dalam persekitaran logistik的重点更加清楚。
sistem boleh menghentikan, menghala semula这个说法我要拿回去跟同事讨论。