А ты уверен, что он тебе нужен? В принципе он сделан для того чтобы поисковики не индексировали какие-либо разделы сайта, типа корзина пользователя в online магазинах; пароли участников сайта. А если тебе особо нечего закрывать от поисковиков то можешь создать пустой текстовый файл robots.txt, то есть разрешение на индексацию всеми поисковыми роботами всего сайта.