35

採用されたMTurkワーカーがタスクを実行するWebサイトを実装しています。MTurkタスクを使用してワーカーを募集する予定です。これを使用して、実際の作業のために外部のWebサイトにリダイレクトします。この計画に関して、次の質問があります。

  1. HITを実行するこのアプローチに予測可能な問題はありますか?もしそうなら、どうすればそれらを軽減できますか?

  2. 外部サイトで認証手順をどのように実装する必要がありますか?たとえば、特定のタスクを実行するためにWebサイトにアクセスする人々が、MTurkでこの特定のタスクのために以前に採用された人々のグループと実際に同じであることを確認するにはどうすればよいですか?

  3. ワーカーがタスクを完了したら、パフォーマンスに基づいて支払い手順をMTurkとどのように統合する必要がありますか?たとえば、外部サイトでタスクを完了した後、ワーカーに3ドルの借金があるとすると、MTurkにこの金額をプログラムで支払うように指示することはできますか?

そのような詳細が重要な場合、外部サイトはPythonを使用して構築されます。

MTurkの使用に関する経験と洞察に基づいた提案やコメントをいただければ幸いです。

4

2 に答える 2

30

私は私の同様のプロジェクトのためにこれを考えています。私は自分で労働者として実験しました。これが私の計画です。お役に立てば幸いです。(私はまだ実装していません。これは、私がワーカーとして参加したアカデミック HIT に基づいています。)

A. 次のような言語のテンプレートを作成します。

1. Please open this web site in a new browser window:
   http://your-url.xyz.blah/tasks/${token}
2. Read and follow the instructions there.
3. After completing the task, you will receive a confirmation code. Paste 
   it here: [________]

B. Mechnical Turk データ ファイル用にいくつかのランダム トークンを作成します。

1A1B43B327015141
09F49F2D47823E0C
B5C49A18B3DB56F4
4E93BB63B0938728
CCE7FA60BFEB3198
...

(これらのトークンはアプリから生成します。相互参照する必要があります。)

C. アプリが URL からトークンを抽出し、タスクを検索して、必要なことを実行する。URL は 1 回限りの使用トークンであるため、個人的には URL に出くわす心配はありません。

D. ユーザーが外部 Web サイトでタスクを完了すると、外部アプリは確認コードを提供します。確認コードはランダムで不透明でなければなりません。特定のコードが正解または不正解に対応するかどうかを知るのは、アプリケーションだけです。実際、必要に応じて、正確性をリアルタイムで判断することさえできない場合があります。これは、複数の提出物を集計および/または比較した結果である可能性があります。

E. プログラムで対話するためのコードを記述します。MTurk の結果から提供されたトークンと確認コードを取得し、それらが外部アプリと一致することを確認します。一致しない場合は、HIT を拒否します。一致する場合は、外部アプリで正確性を確認し、承認または却下します。ボーナスの支払い構造を検討することもできます。

したがって、特定の質問に答えるには:

  1. 私が説明したアプローチで問題が発生することはないと思います。とはいえ、Mechanical Turk は芸術であると同時に科学でもあります。おそらくより多くの芸術。良い質問を書き、Turkers に適切に支払うことは、常識、市場調査、および実験を組み合わせて理解しなければならないことです。

  2. 上記の (C) を参照してください。トークンは 1 回だけ使用するように設計されています。十分な長さのトークンを使用すると、衝突の可能性が非常に低くなります。

  3. 上記の (E) を参照してください。Mechanical Turk 開発者ガイドは、開始するのに適した場所です。

結果を共有してください。または、Turkers に StackOverflow に数百枚のポストカードを送ってもらいます。:)

ノート:

  • 現在、資格試験について勉強中です。それらは非常に役立つと思います。

  • 外部アプリケーションで Turker の Worker ID を取得したいのですが、その部分がまだわかりません。私はそれを読んでいます。例: assignmentId による workerIdの取得

  • API からExternalQuestion機能を使用することを考えています。 Worker の Web ブラウザのフレーム. あなたの Web ページには Worker が記入して送信するためのフォームが表示されます. Worker はあなたのフォームを使用して結果を送信し、あなたのフォームは結果を Mechanical Turk に送信します. Web サイトを使用して、フォームを使用すると、Web サイトで質問の表示方法と回答の収集方法を制御できます。」

于 2012-06-13T05:22:57.807 に答える
7

また、 PsiTurkが役立つ場合もあります。「PsiTurk は、Amazon の Mechanical Turk でカスタム行動実験を実施するためのオープン プラットフォームです。...実験を実行するために必要なバックエンド機構のほとんどを提供することを目的としています。AMT の External Question HIT を使用します。つまり、どの Web サイトでもデータを収集できます。実験を Web サイトに変えることができる限り、PsiTurk で実行できます。"

于 2012-06-13T05:54:59.667 に答える