Ⅰ. robots.txt 란? 웹사이트 소유자가 검색 엔진 크롤러(봇)에게 특정 웹 페이지를 크롤링하거나 특정 웹 페이지를 크롤링 하지 않도록 설정하기 위해 사용하는 텍스트 파일입니다. robots.txt 파일은 웹사이트의 루트 디렉터리에 위치하며, 검색 엔진은 일반적으로 이 파일을 읽고 해당 사이트에서 크롤링 가능한 영역과 금지된 영역을 결정하는 역할을 합니다. Ⅱ. robots.txt 구성 요소ⅰ. User-agent: 특정 검색 엔진 크롤러를 지정합니다. 예: Googlebot, Bingbot ⅱ. Disallow/Allow: 크롤링을 허용하거나 금지할 경로를 지정합니다. ⅲ. Sitemap: 사이트맵의 위치를 검색 엔진에 알림. ⅳ. 파일 위치: 항상 웹사이트의 루트 디렉터리 Ⅲ. robots.t..