"robots.txt를 찾을 수 없음" 해결 방법

Gufinance

·

2023. 2. 28. 11:00

 

robots.txt 를 입력한 모습. 초기엔 적색 표시가 되어 있었다.

 

Robots.txt 다운로드

티스토리 블로그를 운영하면서 검색 엔진에게 내 사이트 정보를 수집할 수 있도록 설정해주는 것은 중요합니다. 이를 위해서는 검색 엔진 크롤러가 우리 블로그 정보를 수집할 수 있도록 하는 작업이 필요한데, 구글 검색 콘솔과 네이버 웹마스터에서 등록할 때 때때로 "robots.txt를 찾을 수 없음" 이라는 오류가 뜨기도 합니다. 아래 설명에서는 이 오류를 해결하는 방법에 대해 설명하겠습니다.

 

robots.txt
0.00MB

 

우선 해야할 일은 구글 크롤러 Robots.txt 파일을 설정하는 것입니다. 상단에 첨부한 "robots.txt" 파일을 다운로드한 후, 파일 내용 중 User-agent, Allow, Sitemap 등의 코드를 수정해주어야 합니다. 이렇게 수정한 파일을 본인의 사이트 주소에 맞게 저장하면 됩니다.

 

User-agent: 
Allow:/
Sitemap: 티스토리 주소(https://gufinance.tistory.com) + "sitemap.xml"

 

Robots.txt 업로드

스킨 편집 -> HTML -> 파일 업로드

마지막으로 이 파일을 티스토리 블로그에 업로드하는 것입니다. 이를 위해 티스토리 관리 페이지에서 스킨편집 메뉴로 들어가서 html편집을 선택한 후 파일업로드 메뉴로 이동합니다. 수정 완료한 robots.txt 파일을 업로드해주면 설정이 완료됩니다.

 

 

이렇게 구글 크롤러 Robots.txt 파일을 설정하고 업로드하는 작업을 수행하면 검색 엔진이 우리 블로그 정보를 수집할 수 있게 됩니다. 이를 통해 블로그의 검색 노출률을 높일 수 있습니다.

 

 

 

 

반갑습니다. 금융관찰자 'GUFI' 입니다.

오늘 FS에서는 농산물 기업 Cargill Inc.의 역사와 성과, 앞으로의 추이에 대해 분석합니다.

 

관련 링크

네이버 서치 어드바이저, 웹마스터 등록

구글 서치 콘솔, 웹마스터 등록

빙(Bing) 웹마스터 등록

ZUM 웹마스터 등록

구피넌스, GUFI 제공