Google дава 30 000 долара награди за откриване на бъгове в AI

Google стартира нова програма за награди, посветена специално на откриването на бъгове в продуктите с изкуствен интелект. Списъкът на Google с допустими бъгове включва примери за нежелани действия, които компанията търси, като например непряко въвеждане на команда за изкуствен интелект, която кара Google Home да отключи врата, или въвеждане на команда за извличане на данни, която обобщава всички мейли на даден човек и изпраща обобщението на акаунта на хакера.

Новата програма изяснява какво представлява бъг в изкуствения интелект, като ги разбива на проблеми, които използват голям езиков модел или генеративна система за изкуствен интелект, за да причинят вреда или да се възползват от пропуск в сигурността, като неправомерните действия са начело в списъка.

Това включва модифициране на акаунта или данните на дадено лице, за да се попречи на сигурността му или да се направи нещо нежелано, като например един разкрит по-рано бъг, който може да отвори умни щори и да изключи осветлението, използвайки подправено събитие в Google Calendar.

Ловците на бъгове вече са спечелили над 430 000 долара през последните две години, откакто компанията официално започна да кани изследователи в областта на изкуствения интелект да откриват потенциални начини за злоупотреба с функциите на изкуствения интелект в своите продукти.

Просто да накарате Gemini да халюцинира няма да е достатъчно. Компанията казва, че проблеми, свързани със съдържание, произведено от AI продукти – като генериране на реч на омраза или съдържание, нарушаващо авторски права – трябва да се докладват на канала за обратна връзка в самия продукт.

Според Google по този начин екипите за AI безопасност могат да диагностицират поведението на модела и да приложат необходимото дългосрочно обучение по безопасност за целия модел.

Източник: Google