chat_bubble
질문
highlight
이슈!
speaker_notes_off
답변 없음
local_offer
태그
folder
카테고리
add_box
질문하기
close
menu
Question view
power_settings_new
기억
가입
search
C# 으로 robots.txt 파일을 읽어 해당 URL이 봇 접근이 제한되는 URL인지 판단하는 소스
익명
님
문의
2018년 8월 18일
0
투표
C# 으로 robots.txt 파일을 읽어 해당 URL이 봇 접근이 제한되는 URL인지 판단하는 소스좀 알려주세요.
robotstxt
csharp
봇
질문에 댓글:
보여지는 당신의 이름 (옵션):
댓글이 내 뒤에 추가 되는 경우 이 주소로 이메일 보내기:
댓글이 내 뒤에 추가 되는 경우 이 주소로 이메일 보내기
개인정보 보호: 이메일 주소는 이 알림을 발송하기 위해 사용됩니다.
안티-스팸 확인:
앞으로 이 검증을 피하려면,
로그인
혹은
가입
하시기바랍니다.
당신의 답변
보여지는 당신의 이름 (옵션):
내 답변이 선택되거나 댓글이 생길 경우에는 이 주소로 이메일 보내기:
내 답변이 선택되거나 댓글이 생길 경우에는 이메일 보내기
개인정보 보호: 이메일 주소는 이 알림을 발송하기 위해 사용됩니다.
안티-스팸 확인:
앞으로 이 검증을 피하려면,
로그인
혹은
가입
하시기바랍니다.
0
답변
관련 질문
특정 파라미터 값일 때만 웹문서 노출하고 싶지 않을때 robots.txt 어떻게 추가해야 하나요?
[C#] HttpWebRequest POST 전송
Bingbot 봇 IP 검증 방법 있나요?
크롤링 봇 이름 크롤러 목록
Daum 웹문서 수집 로봇 봇 명칭/이름
구로역 맛집
시흥동 맛집
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
add
...