投稿

2015の投稿を表示しています

sendgrid4rの安定版(1.1.0)をリリースしました

2015/7にSendGridのWebポータルが一新されました。これに合わせて新Webポータルのバックで利用されているWeb API v3も正式リリースっぽくなったみたい(これまでβだったなんて認識はあまりなかったのですが)なので、 sendgrid4r をv1.0.0にして安定版をリリースすることにしました。 v1.0.0は7/18にリリースしてましたが、早く記事書かなきゃと思いつつ時間がとれず、おたおたしていたら、新しいAPIが公開されて、これをサポートしたバージョンを v1.1.0 にしてようやく記事を書くことができました。 振り返ってみると最初にsendgrid4rをリリースしたのが2014/10みたいで、もうそろそろ1年経つようです。時の流れは早いものです。 SendGridでは製品のロードマップはあまり大々的に公開していないようですが、公式ドキュメントには地味に書いてあります。 API Keysをサポートするのが、Web APIのメール送信エンドポイントとWeb API v3のみ Permissionsという機能により、 API Keyで操作可能な機能が定義できる ようになる、らしい 新しい Marketing Campaign機能 とこれに関連して、Web API v3ベースの新しい Contacts API 、 Campaigns API の公開 旧来のAPIは全てWeb API v3で置き換えて整理していくのではないかという雰囲気を感じます。そして、何の前触れも派手なアナウンスもなく、着々と新機能を公開し続けています。うまく動いているものをどんどん置き換えていこうとするモチベーションがどこから湧いて出てくるのかよくわかりませんが、この動きの速さには毎度頭が下がります。 やべー、Permissionsが来る前に早くContacts APIとCampaigns APIに対応しなきゃ。。。

最近(2.1.6〜2.2.1)のNeo4jのリリースノートを翻訳してみた

2014年末から2015年頭くらいにかけてNeo4jで 遊んでいました 。当時のバージョンが2.1.6くらいだったと思うのですが、それから数ヶ月経って、気付いたら最新版は2.3.0-M01ということで、意外とリリースのペースが速いことに気付きました。 というわけで、キャッチアップのために最近(2.1.6〜2.2.1)の リリースノート を日本語訳して理解した気になろうと思います。 言うまでもありませんが、この翻訳は私自身のメモのために作成したものです。校正、確認などを行なっていないのと、そもそも意味がわからず訳している部分も多数あるので、誤っている可能性が十二分にあります。というか、むしろ全部誤っているものと考えて、必ず原文で確認を取るようにしてください。 Neo4j 2.1.6 (2014/11/25) IOエラーが常に正しく扱われておらず、発生した変更のフラッシュに失敗することでデータベース内での矛盾が発生することによる致命的な異常終了の問題の解決 Luceneベースのインデクスが要求するファイルハンドルをかなり小さくした ストアの矛盾を報告しない可能性のある矛盾チェックの問題の解決 ノードの次数を簡単に得ることを可能にするJava API拡張(タイプと方向によるリレーションシップのカウント) ノードをトラバーサルするリレーションシップのロードに影響を与える重大なパフォーマンス劣化の解決 クラスタ環境においてバックアップストアを正常に読み込めないことがある問題の解決(Neo4j Enterprise) スレーブの機能停止後、マスターに切戻しする際に失敗することがある問題の解決(Neo4j Enterprise) Neo4j 2.1.7 (2015/02/03) リレーションシップグループストアメモリマッピング(neostore.relationshipgroupstore.db.mapped_memory)の標準設定を10Mから0に変更。これにより、かなりパフォーマンスが改善される。 予期しない異常終了後のリカバリ中に過度のメモリを使用する問題の解決 スキーマ制約の強制を改善。いくつかのレアケースの競合状態を解消 バッチインポーターがスキーマ制約を正しく適用することを確認 shortestPathを使用するい

SendGridのEventデータをDocumentDBに突っ込む

イメージ
少し前からSendGridのイベントデータの突っ込み先として Azure DocumentDB が使えないか調べていたところ、しばやんさんがこんなツイートしているのを見かけました。たまたまだったのですが、ちょうど突っ込む部分ができたので GitHub に上げておきました。 SendGridのイベントデータはEvent Webhookという機能を使って取得します。全てのイベントデータを自由に扱うために不可欠な重要な機能なのですが、取れるデータがスキーマレスのJSON形式のデータなので、いわゆるRDBに突っ込もうと思うとそれなりにスキーマの調整に手間がかかります。 こういうデータの保存先としては、 MongoDB (特に MongoLab → 最強 )や Treasure Data なんかが相性がいいわけですが、ちょっと前にAzureでDocumentDBというサービスが追加されたとのこと、ちょっと出遅れた感はありましたが、丁度良い機会だったので試してみました。 DocumentDBのガイドをみると興味深い特徴がいくつもあります。 スキーマレス JSON REST API トランザクション ストアドプロシージャ トリガ SQLクエリ MongoDBっぽい使い方ができて、MongoDBがカバーしていないところをカバーしようとしている雰囲気が伺えます。いかにもMS様っぽい登場のしかたですね。 パッと見、この特徴だけ見るとSendGridのイベントデータをREST APIを使ってそのまま突っ込めばトランザクションも効いてトリガも使えて最強かっ!!と期待したのですが、残念ながらそんなに話はうまくいかなかったので、その辺中心にポイントとなる箇所をまとめてみます。 配列を受け付けてくれないREST API REST API を見て気になったのが、データを生成する際は配列を渡せないこと。 Create a Document では一つずつ渡すインターフェイスなんですね。 SendGrid側は基本的にイベントデータを配列で渡してくるので、REST APIでデータを突っ込もうと思ったらこのAPIを配列長分繰り返し呼ばなくてはいけません。パフォーマンス的に無理があるというのは直感的に想像がつきます。 認証に一手間必要なRES

メールリレーをNeo4jで可視化する

イメージ
はじめに メール関連の仕事をしていると、自分が受け取ったメールがどのサーバ(もしくはサービス)を経由して送られてきたのかがとても気になります。新しいメールが届く度、ヘッダを見ては「あーSESかー」とか「へーMandrillかー」とか「おっSendGrid!」といった感じで本文よりよっぽど楽しい場合もあったりします。でも、毎回生のヘッダを見るのはいい加減面倒になってきたので、もうちょっとマシな方法を考えてみました。 メールヘッダ SMTPというプロトコルはヘッダに経由情報が付加されていくという妙な性質を持っています。こういった振る舞いをするプロトコルって他にあるんですかね?あまり思い当たりません。元々、経由情報は正常にリレーされなかった場合のトラッキングが目的だったりするわけですが、様々な情報が得られるので意外と興味深いものだったりします。 経由情報を可視化する こうした経由情報ですが、正直見やすいものではありません。 Received: from [127.0.0.1] (localhost [54.64.73.243]) by ismtpd-047 (SG) with ESMTP id  14abd28c69e . 67a6 . 2d8d  for @yyyy.jp >; Tue, 06 Jan 2015 02:52:54 +0000 (UTC) この場合、ismtpd-047というホストがlocalhost [54.64.73.243]というホストからESMTP経由でメッセージを受け取ったよ、ということを表しています。 ルール を知っていれば読めるわけですが、実はフォーマットの自由度が高くて、この仕様決めた奴を一発ぶん殴りたくなるくらいフリーダムです。 せっかくこういった情報が公開されているわけなので可視化したら何か見えてこないかなー、と思っていたところ、以前から使ってみたかった Neo4j のことを思いつきました。Neo4jはグラフDBという類のDBで、Webベースの可視化機能も利用できるのでお手軽そうです。 システム構成っぽいやつ 受信したメールのヘッダを解析してNeo4jに突っ込む方法ですが、今回は、メールを受けるのにSendGridのParse Webhookを利用してみました。 普段使っているGmailに届