go の学習を始めたばかりで、ツアーに取り組んでいます。最後の課題は、Web クローラーを編集して、反復せずに並行してクロールすることです。
演習へのリンクは次のとおりです: http://tour.golang.org/#70
これがコードです。クロールとメイン機能のみを変更しました。そのため、きれいに保つためにそれらを投稿します。
// Crawl uses fetcher to recursively crawl
// pages starting with url, to a maximum of depth.
var used = make(map[string]bool)
var urlchan = make(chan string)
func Crawl(url string, depth int, fetcher Fetcher) {
// TODO: Fetch URLs in parallel.
// Done: Don't fetch the same URL twice.
// This implementation doesn't do either:
done := make(chan bool)
if depth <= 0 {
return
}
body, urls, err := fetcher.Fetch(url)
if err != nil {
fmt.Println(err)
return
}
fmt.Printf("\nfound: %s %q\n\n", url, body)
go func() {
for _, i := range urls {
urlchan <- i
}
done <- true
}()
for u := range urlchan {
if used[u] == false {
used[u] = true
go Crawl(u, depth-1, fetcher)
}
if <-done == true {
break
}
}
return
}
func main() {
used["http://golang.org/"] = true
Crawl("http://golang.org/", 4, fetcher)
}
問題は、プログラムを実行すると、印刷後にクローラーが停止することです
not found: http://golang.org/cmd/
これは、プログラムを並列実行しようとしたときにのみ発生します。線形に実行すると、すべての URL が正しく検出されます。
注:これを正しく行っていない場合(つまり、並列処理)、お詫び申し上げます。