6

この難しい質問を最初に説明するのに役立ついくつかの背景:

ユーザーが送信した値を世界平均と比較して、ユーザーの信頼性を推定するデータベースがあります。値の範囲は 0 ～ 1 です。

  • この特定のユーザーの信頼性 =r
  • この特定のユーザーが送信した値の平均 =a
  • グローバル、「合意された」平均 =g

信頼性：

r = 1 - ABS(g - a)

これが、各ユーザーの信頼度の計算方法です。これで、グローバルな「合意された」平均gは、加重平均を使用して計算されます。ここで、加重は でr、値はaです。合計 3 人のユーザーがいる場合:

  g = ((r1 * a1) + (r2 * a2) + (r3 * a3)) / (r1 + r2 + r3)

問題は、ユーザーが高い信頼性を持つと完全に独占され、新しい価値観がこれを変えることができないことです。例を挙げる：

g was initially 0.5
user1 r was initially 0.5
user2 r was initially 0.5
user3 r was initially 0.5

ここで、値を 1 つずつ送信し、何が起こるかを監視します。

user1 a is submitted, 1.0
user1 reliability goes slightly down because it differs from g (0.5)
user2 a is submitted, 1.0
user1 and user2 reliability go up to 100%, g is now 1.0.
user3 a is submitted, 0.0
user3 reliability goes down to 0%. g is still 1.0.

user3 の信頼性は非常に低いため、重み付けは にはまったく影響しませんg。送信された値が世界平均とは完全に異なるため、User3 の信頼性は低下します。user3 の送信が最終的な値に何らかの影響を与えるようにするにはどうすればよいですか? たぶん、信頼性が完全にゼロにならないように（ただし近い）、定数を追加する必要がありますか？

さて、SQLコードです。問題を示す SQL フィドルを追加しました: http://sqlfiddle.com/#!3/d3fd1/21 コードを抽象化して短くしましたが、それでもかなり長いです。

テーブルの作成、ストアド プロシージャ、およびトリガー:

-- Stores user info
CREATE TABLE dbo.Users(
    [UserID] [int] NOT NULL,
    [Reliability] [float] NOT NULL
  )

-- Contains global averages from all users who submitted data
CREATE TABLE dbo.GlobalSubmission(
    GlobalSubmissionID  [int] NOT NULL,
    Name [varchar](50) NULL,
    GlobalAverage [float] NOT NULL,
)

CREATE TABLE dbo.UserSubmission(
    SubValue float NOT NULL,
    GlobalSubmissionID int NOT NULL,
    UserID int NOT NULL,
)


GO

--Calculate the "ideal value", used for GlobalSubmission.
CREATE FUNCTION dbo.IdealValueCalc(@globalSubmissionID INT)
RETURNS int
AS
BEGIN

DECLARE @tmpReliability TABLE (SubValue float, Reliability float)


INSERT INTO @tmpReliability
    SELECT AVG(us.SubValue) as SubValue, usr.Reliability Reliability FROM UserSubmission us
    JOIN Users usr 
    ON us.UserID = usr.UserID
    WHERE GlobalSubmissionID = @GlobalSubmissionID
    GROUP BY us.UserID, usr.Reliability

--Perform weighted mean calculations.
Return (SELECT SUM(SubValue * Reliability) / SUM(Reliability) FROM @tmpReliability)
END
go


--Calculate the reliability of one user.
CREATE FUNCTION dbo.GetReliabilityForUser
(@userID int)
Returns Float
AS BEGIN
Return (SELECT 1 - AVG(ABS(db.userAvg - db.GlobalAverage))
    FROM (
      SELECT pmd.UserID,
            gs.GlobalAverage, 
            AVG(pmd.SubValue) as userAvg
      FROM UserSubmission pmd
      -- Joins average value for each user with "ideal" value from GlobalSubmission
      JOIN GlobalSubmission gs 
        ON gs.GlobalSubmissionID = pmd.GlobalSubmissionID
        WHERE pmd.UserID = 1
      GROUP BY pmd.UserID, gs.GlobalSubmissionID, gs.GlobalAverage
     ) db
     GROUP BY db.UserID)
End
go



CREATE TRIGGER trg_SubmissionComputation
ON UserSubmission 
AFTER INSERT, UPDATE
AS BEGIN
    --Calculate this uer's reliability
    DECLARE @userID int = (SELECT TOP(1) UserID FROM inserted)
    DECLARE @userReliability float = dbo.GetReliabilityForUser(@userID)

    UPDATE Users
    SET Reliability=@userReliability
    WHERE UserID = @userID

    --Recalculate globalSubmission values:
    DECLARE @globalSubmissionID int = (SELECT TOP(1) GlobalSubmissionID FROM inserted)
    DECLARE @globalAverage float = dbo.IdealValueCalc(@globalSubmissionID)
        --The global average for this set of submissions has been recalculated. Now inserting:

    UPDATE GlobalSubmission
    SET GlobalAverage = @globalAverage 
    WHERE GlobalSubmissionID = @globalSubmissionID
END
GO

テスト:

--Creating 3 new users
INSERT INTO Users
(UserID, Reliability)
values 
(1, 0.5),
(2, 0.5),
(3, 0.5)
GO

--Creating a new GlobalSubmission
INSERT INTO GlobalSubmission
(GlobalSubmissionID, NAME, GlobalAverage)
values (1, 'BOILER2B' , 0.5)
GO

--First, we will submit values of 1 for two users:
INSERT INTO UserSubmission values (1.0, 1, 1); -- Value: 1.0, User 1, Submission 1
GO
INSERT INTO UserSubmission values (1.0, 1, 2); -- Value: 1.0, User 2, Submission 1
GO
INSERT INTO UserSubmission values (1.0, 1, 1); -- Value: 1.0, User 1, Submission 1
GO
INSERT INTO UserSubmission values (1.0, 1, 2); -- Value: 1.0, User 2, Submission 1
GO


--Now, we will submit values of 0 for the third user:
INSERT INTO UserSubmission values (0.0, 1, 3); -- Value: 0.0, User 3, Submission 1
GO
INSERT INTO UserSubmission values (0.0, 1, 3); -- Value: 0.0, User 3, Submission 1
GO

SELECT * FROM Users -- This results in 0% reliability for the last user.

--If we create new users and add them, the reliability won't budge:
INSERT INTO Users
(UserID, Reliability)
values 
(4, 0.5),
(5, 0.5),
(6, 0.5),
(7, 0.5),
(8, 0.5)
GO


INSERT INTO UserSubmission values (0, 1, 4); -- Value: 0, User 4, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 5); -- Value: 0, User 5, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 6); -- Value: 0, User 6, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 7); -- Value: 0, User 7, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 8); -- Value: 0, User 8, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 4); -- Value: 0, User 4, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 5); -- Value: 0, User 5, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 6); -- Value: 0, User 6, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 7); -- Value: 0, User 7, Submission 1
GO
INSERT INTO UserSubmission values (0, 1, 8); -- Value: 0, User 8, Submission 1
GO


SELECT * FROM Users -- Even though we've added loads of new users suggesting 0 as value, the final value
-- is remaining 1.0, because when a new value (0) is submitted, it varies too much from the global average
--(1), causing the reliability of that user to go down, and that user ends up making no influence on the
-- global average!
4

3 に答える 3

1

これは、まだアドホックですが、重みが 0 になることのない別の推定です。

1) 各ユーザーについて、二乗誤差の指数関数的に減衰する推定値を生成します。調整可能な任意の推定値 K から始めます。次に、ユーザーが値 a を生成し、グループの平均が g であるたびに、二乗誤差 E = (a - g) * (a - g) を生成し、二乗誤差の推定値を以前からafter = before * x + E * (1 - x) ここで、x は 0 から 1 の間の別の調整可能な定数で、古い推定値が減衰する速さを調整します。この推定値が完全にゼロになることはありませんが、次のステップのために、調整可能な値を下回るのを止めたほうがよい場合があります。

2) 新しい全体推定値を取得するには、以前と同様に加重平均を使用しますが、重みをそのユーザーの現在の二乗誤差推定値の逆数にします。

すべてのユーザーに偏りがない場合、指数関数的に減衰する推定値は、各ユーザーの平均二乗誤差の適切な推定値になる可能性があり、重みは、グローバル推定値の予想される二乗誤差を最小化する推定値の線形結合になります。確認: 異なるユーザーが同じ情報源から Ni 個の推定値の平均を提出した場合、各ユーザーの推定値の平均二乗誤差は 1/Ni になるため、この逆数を掛けると、平均値が各ユーザーによって生成された推定値の元の合計になります。ユーザーと重み付けされた見積もりは、見積もりをプールするだけになります。

于 2013-04-11T19:35:05.527 に答える
0

最初の提案は、絶対的な違いを取り除くことです。それらは数学を本来よりも難しくします。平方差を使用して物事を単純に保ちます。

各ユーザーが送信した値の合計と数を追跡します。

g= (sum1*r1+sum2*r2+sum3*r3)/(count1*r1+count2*r2+count3*r3)

sum を 0.5 に、count を 1 に、r を 1.0 に初期化します。

評価を受け取るたびに、そのユーザーの合計とカウント、全体的な g、およびすべてのユーザーの信頼性を次のように更新します。

r = 1- (g - 合計/カウント)^2。

基本的に、いくつかの「事前」で評価を追跡しています。count を大きな数に初期化すると、アルゴリズムは送信された誤った値に耐性がありますが、収束に時間がかかります。初期カウントを減らすと、正反対のことが当てはまります (極端な場合は 0 まで)。

于 2013-04-11T19:34:52.720 に答える