Giskard

Giskard ແມ່່ນຊຸດເຄື່ອງມືທົດສອບ ແລະ ປະເມີນຜົນແບບ Open-source ທີ່ອອກແບບມາສະເພາະສຳລັບ Large Language Models (LLM) ແລະ ແອັບພລິເຄຊັນ AI ໂດຍຮ່ວມມືກັບແພັດຟອມ Giskard Hub ເພື່ອຊ່ວຍໃຫ້ທີມພັດທະນາຮັບປະກັນຄວາມປອດໄພ ແລະ ຄຸນນະພາບຂອງໂມເດວທັງກ່ອນເປີດນຳໃຊ້ ແລະ ລະຫວ່າງການຣັນລະບົບ. ດ້ວຍການນຳໃຊ້ AI ທີ່ກວ້າງຂວາງ, ຄວາມສ່ຽງທີ່ໂມເດວຈະສ້າງຂໍ້ມູນທີ່ຜິດພາດ (Hallucination), ຖືກໂຈມຕີດ້ານຄວາມປອດໄພ ຫຼື ຂໍ້ມູນຮົ່ວໄຫຼກໍ່ເພີ່ມຂຶ້ນ. ເຄື່ອງມືນີ້ມີການສະແກນຈຸດອ່ອນອັດຕະໂນມັດ, ການທົດສອບ Red Teaming ແບບຕໍ່ເນື່ອງ ແລະ ການປະເມີນແບບເລິກເຊິ່ງສຳລັບລະບົບ RAG (Retrieval-Augmented Generation) ເຊິ່ງສາມາດຊອກຫາຊ່ອງໂຫວ່ ແລະ ແກ້ໄຂໄດ້ຢ່າງມີປະສິດທິພາບ.

ແນວໜ້າຫຼັກในการຮັບປະກັນຄວາມປອດໄພ ແລະ ຄຸນນະພາບຂອງ AI

ແກ້ໄຂບັນຫາຫຍັງແດ່ ແລະ ເໝາະກັບໃຜ

ໃນຂະບວນການພັດທະນາແອັບພລິເຄຊັນ AI, ວິສະວະກອນ ແລະ ນັກວິທະຍາສາດຂໍ້ມູນມັກຈະປະເຊີນກັບບັນຫາທີ່ຄາດເດົາຜົນໄດ້ຮັບຂອງໂມເດວໄດ້ຍາກ, ເກີດ Hallucination ໄດ້ງ່າຍ ແລະ ຂາດຄວາມສອດຄ່ອງຕາມກົດລະບຽບ. Giskard ຊ່ວຍໃຫ້ທີມງານສາມາດກວດສອບຈຸດອ່ອນ ແລະ ຕັ້ງຄ່າລະບົບປ້ອງກັນແບບ Real-time ຜ່ານການສະແກນອັດຕະໂນມັດ ແລະ ລະບົບ Policy-as-code. ສຳລັບອົງກອນທີ່ໃຫ້ຄວາມສໍາຄັນກັບຄວາມເປັນສ່ວນຕົວຂອງຂໍ້ມູນ ແລະ ລະບຽບການຂອງ EU, ການຮອງຮັບການຕິດຕັ້ງແບບ On-premise ຖືເປັນຈຸດເດັ່ນທີ່ສຳຄັນ. ເໝາະສຳລັບທີມພັດທະນາ AI, ຜູ້ກວດສອບຄວາມປອດໄພ ແລະ ຜູ້ບໍລິຫານເຕັກໂນມັດໃນອົງກອນທີ່ຕ້ອງການຮັບປະກັນຄຸນນະພາບຜົນຜະລິດຈາກ LLM.