Věnujete se nebo uvažujete o vývoji chatbota, který bude pracovat s osobními údaji většího množství osob? Pokud ano, pak zde pro vás máme velmi praktický a propracovaný materiál, co při vývoji konverzačního systému zohlednit.
Framework Chatbot RESET byl sestaven pod záštitou Světového ekonomického fóra odbornou a akademickou komunitou, podniky a státními úřady. Materiál je určen pro chatboty ve zdravotnictví, ale zde uvedené návody jsou užitečné pro každý větší projekt automatizované komunikace.
Doporučení pracuje s těmito principy:
Bezpečnost/užitečnost
– Činnosti chatbotů nesmí vést k nevyhnutelnému poškození lidí nebo k jiným nezamýšleným důsledkům, včetně klamání, závislosti a nerespektování rozmanitosti
Inkluzivita
– Musí být vyvinuto veškeré úsilí, aby chatboti byli přístupní všem zamýšleným uživatelům, přičemž zvláštní pozornost je věnována identifikaci a umožnění přístupu potenciálně vyloučeným nebo zranitelným skupinám.
Integrita
– Chatboti musí omezit své úvahy a odpovědi na ty, které jsou založeny na spolehlivých a kvalitních podkladech, na eticky získaných údajích a údajích shromážděných za jasně definovaným účelem
Lidské zastoupení
– Chatboti musí podporovat jednání uživatele, podporovat základní práva a umožňovat lidský dohled
– Chatboti musí respektovat schopnost pacientů činit vlastní rozhodnutí o zdravotnických zákrocích
– Chatboti, jejichž provozní model zahrnuje lidský dohled v reálném čase, se musí podřídit přání pacientů a komunikovat s lidským agentem kdykoli si to uživatel přeje
Nestrannost
– Chatboti nesmí jednat systematicky zaujatě s ohledem na etnickou příslušnost, zeměpisnou polohu, jazyk, věk, pohlaví, náboženství atd.
– Pokud se chatbot „učí“ z dat, měla by být tréninková sada dat reprezentativní pro cílovou populaci
Odpovědnost
– Za správu chatbotů musí být v organizaci odpovědný subjekt (osoba nebo skupina)
– Závěry a doporučení chatbotů musí být kontrolovatelné
Ochrana údajů
– Veškeré údaje a historie interakcí, včetně zamýšlených i nezamýšlených odhalení soukromých údajů a dat shromážděných se souhlasem uživatele, musí být řádně chráněny a likvidovány podle platných předpisů
– Pokud jsou během komunikace zaznamenány jakékoli údaje a/nebo jsou použity napříč komunikacemi, je třeba, aby uživatel chatbota souhlasil a/ nebo je nutné případné schválení etickým orgánem pro účely výzkumu a shromažďování údajů
– Uživatelé chatbotů mají právo a přístup k převzetí vlastnictví osobních údajů, které je možné identifikovat
– Údaje shromážděné chatboty nesmějí být použity pro účely sledování nebo trestání nebo k nespravedlivému a netransparentnímu odepření zdravotní péče uživateli
Transparentnost
– Uživatelé chatbotů musí být vždy informováni o tom, zda komunikují s umělou inteligencí, nebo s člověkem nebo jejich kombinací
– Chatboti musí uživatele jasně informovat o limitech výkonnosti systému, s výjimkou situací, kdy je neinformování nezbytné pro zamýšlený účel chatbota
– Uživatelé chatbotů musí být okamžitě informováni, pokud chatbot není schopen porozumět uživateli nebo není schopen s jistotou odpovědět, s výjimkou situací, kdy takové sdělení zasahuje do činnosti chatbota pro kterou byl určen
Účinnost
– Účinnost chatbotů musí být plně ověřena z hlediska účinnosti jejich údajné služby, a to v souladu s přijatými pravidly a mezinárodními standardy
– Výstupy chatbotů musí být přizpůsobeny pro jejich zamýšlené uživatele, přičemž je třeba mít na paměti lékařskou povahu informací, které jsou sdělovány
Vysvětlitelnost
– Rozhodnutí a doporučení chatbotů musí být vysvětlitelná tak, aby je byli schopni pochopit jejich cíloví uživatelé
Zdroj: http://www3.weforum.org/docs/WEF_Governance_of_Chatbots_in_Healthcare_2020.pdf