ИИ в тестировании // LLM в QA

16 сентября я был приглашенным гостем на подкасте компании ITtest. Тема подкаста была: "ИИ в тестировании".

Разговаривали около часа, две основные темы это "Как тестировать решение в котором есть ИИ" и "Как ИИ помогает тестировщику". Попробую коротко пересказать. :)

Когда нужно тестировать продукт с ИИ "внутри", то:

  • нужно понимать, что привычная для тестирования логика "работает / не работает" - не работает :)- продукт с ИИ будет на выходе всегда давать какой-то ответ и нужно оценить качество этого ответа
  • для того, чтобы оценить качество нужно заранее договорится о том, что считать "качественным" ответом ИИ
  • а ещё нужно заранее приготовить наборы данных для тестирования, не менять их, и сравнивать результаты тестирования строго на основе этих наборов
  • и дружить с AI / ML командой, чтобы они объясняли что и как влияет на результаты работы

А когда мы говорим про помощь тестировщику в ежедневной работе, то:

  • ИИ работу тестировщика не заберет, но может очень облегчить — ИИ может находить баги,
  • ИИ может генерить тест-кейсы,
  • а ещё лучше сначала генерировать планы тестирования! :)
  • а если вы пользуетесь IDE типа Cursor, то ИИ может сразу вашу кодовую базу изучить и на её основе выдавать, например, готовые юнит-тесты
  • можно попробовать загрузить в мультимодальную LLM скриншот интерфейса и попросить UX/UI улучшить
  • а если ваша IDE уже видит вашу кодовую базу, то и end-to-end вам может сразу предложить написать

Много ещё о чём поговорили, расстались довольные друг другом и пошли дальше экспериментировать.

А посмотреть на нас можно здесь - https://vkvideo.ru/video-225263704_456239048?list=dd435c1d2d9c174532